license: apache-2.0 language:

• en

WestSeverus - 7B - DPO - v2

☘️ 模型描述

WestSeverus-7B-DPO-v2是基于WestSeverus-7B训练的西湖家族模型。

该模型在多个DPO数据集上进行了训练，在基础数学问题上表现优异。

WestSeverus-7B-DPO-v2可应用于数学、化学、物理乃至编程领域，供进一步研究与参考。

📖 目录

1. Nous基准测试结果

   • AGIEval
   • GPT4All
   • TruthfulQA评分
   • BigBench

2. 开放LLM排行榜

   • ARC
   • HellaSwag
   • MMLU
   • TruthfulQA
   • Winogrande
   • GSM8K

3. EvalPlus排行榜

   • HumanEval
   • HumanEval_Plus
   • MBPP
   • MBPP_Plus

4. 提示词格式

5. 量化模型

6. 致谢

🪄 Nous基准测试结果

WestSeverus-7B-DPO-v2目前高居CultriX创建的YALL - 又一个LLM排行榜榜首，在TruthfulQA评分和BigBench上表现尤为突出。

🏆 开放LLM排行榜

WestSeverus-7B-DPO-v2是开放LLM排行榜中顶尖的7B模型之一，在TruthfulQA和GSM8K任务上表现卓越。

详细结果请查阅此处

⚡ EvalPlus排行榜

⚗️ 提示词格式

WestSeverus-7B-DPO-v2采用带系统提示的ChatML模板进行训练，示例如下：

<|im_start|>system
{系统消息}<|im_end|>
<|im_start|>user
{用户提示}<|im_end|>
<|im_start|>assistant

🛠️ 量化模型

WestSeverus模型的其他版本：

• PetroGPT/WestSeverus-7B-DPO

• GGUF格式: https://huggingface.co/TheBloke/WestSeverus-7B-DPO-GGUF

• GGUF格式: https://huggingface.co/s3nh/WestSeverus-7B-DPO-GGUF

• GPTQ格式: https://huggingface.co/TheBloke/WestSeverus-7B-DPO-GPTQ

• AWQ格式: https://huggingface.co/TheBloke/WestSeverus-7B-DPO-AWQ

MaziyarPanahi/WestSeverus-7B-DPO-v2-GGUF

• GGUF格式: https://huggingface.co/MaziyarPanahi/WestSeverus-7B-DPO-v2-GGUF

🙏 致谢

• 感谢@senseable提供的senseable/WestLake-7B-v2
• 感谢@jondurbin提供的jondurbin/truthy-dpo-v0.1数据集
• 感谢@Charles Goddard开发的MergeKit工具
• 感谢@TheBloke、@s3nh、@MaziyarPanahi提供的量化模型
• 感谢@mlabonne、@CultriX创建的YALL排行榜
• 感谢开源AI社区所有使用本模型进行深入研究与改进的同行们