license: apache-2.0

🏠 WizardLM-2 发布博客

🤗 HF 仓库 •🐱 Github 仓库 • 🐦 Twitter • 📃 [WizardLM] • 📃 [WizardCoder] • 📃 [WizardMath]

👋 加入我们的 Discord

新闻 🔥🔥🔥 [2024/04/15]

我们推出并开源了 WizardLM-2，这是我们的下一代最先进的大型语言模型，在复杂对话、多语言、推理和代理任务上性能显著提升。新系列包括三个前沿模型：WizardLM-2 8x22B、WizardLM-2 70B 和 WizardLM-2 7B。

• WizardLM-2 8x22B 是我们最先进的模型，与领先的专有模型相比展现出极具竞争力的性能，并持续超越所有现有的最先进开源模型。
• WizardLM-2 70B 具备顶级推理能力，是同尺寸模型中的首选。
• WizardLM-2 7B 是最快的模型，性能与现有大10倍的开源领先模型相当。

关于 WizardLM-2 的更多详情，请阅读我们的发布博客文章和即将发布的论文。

模型详情

• 模型名称: WizardLM-2 8x22B
• 开发团队: WizardLM@Microsoft AI
• 模型类型: 专家混合 (MoE)
• 基础模型: mistral-community/Mixtral-8x22B-v0.1
• 参数量: 141B
• 支持语言: 多语言
• 博客: WizardLM-2 介绍
• 代码仓库: https://github.com/nlpxucan/WizardLM
• 论文: WizardLM-2 (即将发布)
• 许可证: Apache2.0

模型能力

MT-Bench 评测

我们采用 lmsys 提出的基于 GPT-4 的自动 MT-Bench 评估框架来衡量模型性能。WizardLM-2 8x22B 与最先进的专有模型相比展现出极具竞争力的表现。同时，WizardLM-2 7B 和 WizardLM-2 70B 在 7B 至 70B 规模模型中均位列性能榜首。

人类偏好评估

我们精心收集了一套复杂且具有挑战性的真实世界指令集，涵盖写作、编程、数学、推理、代理和多语言等核心需求。报告结果为不含平局的胜率：

• WizardLM-2 8x22B 仅略逊于 GPT-4-1106-preview，显著优于 Command R Plus 和 GPT4-0314。
• WizardLM-2 70B 优于 GPT4-0613、Mistral-Large 和 Qwen1.5-72B-Chat。
• WizardLM-2 7B 与 Qwen1.5-32B-Chat 相当，超越 Qwen1.5-14B-Chat 和 Starling-LM-7B-beta。