库名称: transformers
许可证: apache-2.0
数据集:

• lkevinzc/numia-1.5-qa-concatenated
  基础模型:
• HuggingFaceTB/FineMath-Llama-3B

Llama-3.2-3B-NuminaQA

相关链接

• 📜 论文
• 💻 GitHub
• 🤗 Oat-Zero系列模型

简介

本模型是我们极简R1-Zero方案中的3B基础模型。

训练细节:

• 基础模型: HuggingFaceTB/FineMath-Llama-3B
• 数据集: lkevinzc/numia-1.5-qa-concatenated
• 训练轮次: 2
• 学习率: 1e-5

引用

@misc{liu2025understanding,  
  title={理解R1-Zero式训练: 一个批判性视角},  
  author={刘子辰 and 陈昌宇 and 李文俊 and 齐鹏辉 and 庞天宇 and 杜超 and 李伟顺 and 林敏},  
  year={2025},  
  howpublished={\url{https://github.com/sail-sg/understand-r1-zero}},  
}