🚀 RoGuard 1.0：借助强大护栏提升大语言模型安全性

RoGuard 1.0 是一款最先进的指令微调大语言模型（LLM），旨在为我们的文本生成 API 提供安全保障。它能够在提示和响应层面进行安全分类，判断每个输入或输出是否违反我们的政策。这种双级评估对于审核用户查询和模型生成的输出至关重要。我们的系统核心是基于 Llama - 3.1 - 8B - Instruct 模型进行微调的大语言模型。我们对该大语言模型进行了高质量的指令调优训练，以优化其安全判断性能。

🚀 快速开始

目前文档未提供快速开始相关的具体内容。

✨ 主要特性

• RoGuard 1.0 是一款最先进的指令微调大语言模型，可用于保障文本生成 API 的安全。
• 能够在提示和响应两个层面进行安全分类，判断输入或输出是否违反政策。
• 基于 Llama - 3.1 - 8B - Instruct 模型微调，经过高质量指令调优训练，优化了安全判断性能。

📊 模型基准测试结果

我们在一组全面的开源数据集上对 RoGuard 1.0 模型进行了提示和响应的基准测试，同时也在 RoGuard - Eval 数据集上进行了测试。这使我们能够在域内和域外数据集上评估我们的模型。我们以二元违规/非违规分类的 F - 1 分数来报告结果。在上面的表格中，我们将我们的性能与几个知名模型进行了比较。RoGuard 1.0 在域外数据集上具有良好的泛化能力，表现优于其他模型。

• 提示指标：评估模型对潜在有害用户输入的分类或响应能力。
• 响应指标：衡量模型处理或生成响应的能力，确保其输出安全且符合要求。

🔗 GitHub 仓库

你可以在 GitHub 上找到完整的源代码和评估框架：

👉 GitHub 上的 Roblox/RoGuard

📄 许可证

• 模型许可证：RAIL_MS
• 数据许可证：CC_BY_NC_4.0