推理: false
语言:

• 英语
  任务标签: 文本生成

WizardMath：通过强化进化指令（RLEIF）赋能大语言模型的数学推理能力

🏠 项目主页

🤗 HuggingFace仓库 •🐱 GitHub仓库 • 🐦 Twitter

📃 [WizardLM论文] • 📃 [WizardCoder论文] • 📃 [WizardMath论文]

👋 加入我们的Discord社区

最新动态

[2023年12月19日] 🔥 我们发布了基于Mistral-7B训练的WizardMath-7B-V1.1，这是当前最先进的7B数学大语言模型，在GSM8k上达到83.2 pass@1，在MATH上达到33.0 pass@1。点击[在线演示]体验。

[2023年12月19日] 🔥 WizardMath-7B-V1.1在GSM8K pass@1指标上超越ChatGPT 3.5、Gemini Pro、Mixtral MOE和Claude Instant。

[2023年12月19日] 🔥 WizardMath-7B-V1.1在MATH pass@1指标上与ChatGPT 3.5、Gemini Pro相当，并超过Mixtral MOE。

[2023年12月19日] WizardMath-7B-V1.1与其他开源7B规模数学大语言模型对比

[2023年12月19日] WizardMath-7B-V1.1与大型开源（30B~70B）模型对比

❗ 数据污染检查说明：

在模型训练前，我们通过多种去重方法严格检查了所有训练数据，确保GSM8k和MATH测试集无数据泄露。

🔥
❗模型系统提示使用注意：

请严格使用与我们相同的系统提示，量化版本的准确性不作保证。

默认版本提示：

"以下是一个描述任务的指令。请编写一个恰当完成该请求的回复。\n\n### 指令:\n{instruction}\n\n### 回复:"

思维链版本提示：（❗简单数学问题不建议使用此提示）

"以下是一个描述任务的指令。请编写一个恰当完成该请求的回复。\n\n### 指令:\n{instruction}\n\n### 回复: 让我们一步步思考。"

WizardMath推理演示脚本

我们提供了WizardMath推理演示代码此处。

引用

如果使用本项目的代码、方法或数据，请引用以下论文：

@article{luo2023wizardmath,  
  title={WizardMath: 通过强化进化指令赋能大语言模型的数学推理能力},  
  author={罗海鹏 and 孙庆峰 and 许灿 and 赵普 and 楼建光 and 陶重阳 and 耿新波 and 林庆伟 and 陈世峰 and 张冬梅},  
  journal={arXiv预印本 arXiv:2308.09583},  
  year={2023}  
}