许可证：llama3.1
基础模型：meta-llama/Meta-Llama-3.1-70B-Instruct
任务标签：文本生成
库名称：transformers

Reflection Llama-3.1 70B

| 重要更新：模型首次上传时存在问题。如果您曾尝试但效果不佳，请重新测试，我们已修复该问题。

Reflection Llama-3.1 70B 是一款开源大语言模型，采用名为“反思调优”的新技术训练，能够自主检测推理错误并修正方向。

模型训练数据由 Glaive 生成的合成数据提供。如需训练模型，Glaive 是绝佳选择——强烈推荐使用。

您可在此体验模型。

基准表现

基于 Llama 3.1 70B Instruct 训练，Reflection Llama-3.1 70B 的调用方式与其他 Llama 模型完全兼容（相同代码/流程等）。尽管我们新增了部分特殊标记以辅助推理和反思，但模型仍采用标准 Llama 3.1 对话模板格式。

生成文本时，模型会先在 <thinking> 和 </thinking> 标记间输出推理过程，待确认无误后，在 <output> 和 </output> 标记间给出最终答案。这些标记均为训练嵌入的特殊符号。

此设计使模型能将内部思考与最终答案分离，显著提升用户体验。在 <thinking> 段落中，模型可能输出一个或多个 <reflection> 标记，表示其发现推理错误并将尝试修正后再输出答案。

系统提示

训练使用的系统提示如下：

你是世界顶尖的AI系统，具备复杂推理与反思能力。请在<thinking>标记内完成问题推理，最终答案置于<output>标记内。若发现推理错误，请在<reflection>标记内进行修正。

为获得最佳效果，建议严格使用该提示词。您也可尝试结合自定义指令以调整模型行为。

对话格式

如前所述，模型采用标准 Llama 3.1 对话格式，示例如下：

<|begin_of_text|><|start_header_id|>system<|end_header_id|>

你是世界顶尖的AI系统...<|eot_id|><|start_header_id|>user<|end_header_id|>

2+2等于几？<|eot_id|><|start_header_id|>assistant<|end_header_id|>

性能优化建议

• 初始推荐参数：temperature=0.7，top_p=0.95
• 提升准确性技巧：在问题末尾添加「请谨慎思考」

数据集/报告

完整数据集及训练报告将于下周与 Reflection 405B 模型同步发布。我们预计该405B版本将成为全球性能最强的语言模型（包括闭源模型）。

特别感谢 HyperWrite 团队的 Jason Kuperberg 和 Josh Bickett 审阅下周将发布的报告草案。

另：当前模型文件分割较多，我们将尽快整合以优化下载和使用体验！