license: apache-2.0
base_model: mistralai/Mistral-7B-v0.1
tags:

• openchat
• mistral
• C-RLFT
  datasets:
• openchat/openchat_sharegpt4_dataset
• kaist-ai/Feedback-Collection
• imone/OpenOrca_FLAN
• LDJnr/Capybara
• tiedong/goat
• glaiveai/glaive-code-assistant
• meta-math/MetaMathQA
• OpenAssistant/oasst_top1_2023-08-25
• TIGER-Lab/MathInstruct
  library_name: transformers
  pipeline_tag: text-generation

利用混合质量数据推进开源语言模型发展

在线演示 | GitHub | 论文 | Discord

由RunPod赞助

1. 使用指南
2. 基准测试
3. 局限性
4. 许可证
5. 数据集详情
6. 引用
7. 致谢

建议通过安装指南安装OpenChat包，并运行下表中的服务命令启动兼容OpenAI API的服务。该服务采用vLLM优化高吞吐部署，可在24GB显存的消费级GPU运行。启用张量并行需在服务命令后追加--tensor-parallel-size N参数。

服务启动后监听localhost:18888端口，完全兼容OpenAI ChatCompletion API规范。参考下方示例请求，也可使用OpenChat网页界面获得更友好体验。

若需部署为在线服务，可使用--api-keys sk-KEY1 sk-KEY2 ...指定API密钥，并通过--disable-log-requests --disable-log-stats --log-file openchat.log仅记录日志到文件。建议前置HTTPS网关保障安全性。

curl http://localhost:18888/v1/chat/completions \  
  -H "Content-Type: application/json" \  
  -d '{  
    "model": "openchat_3.5",  
    "messages": [{"role": "user", "content": "你是一个名为OpenChat的大语言模型。写一首诗描述你自己"}]  
  }'  

curl http://localhost:18888/v1/chat/completions \  
  -H "Content-Type: application/json" \  
  -d '{  
    "model": "openchat_3.5",  
    "condition": "Math Correct",  
    "messages": [{"role": "user", "content": "10.3 ‚àí 7988.8133 = "}]  
  }'  

对话模板

üí° 默认模式（GPT4修正版）：

GPT4 Correct User: 你好<|end_of_turn|>GPT4 Correct Assistant: 你好<|end_of_turn|>GPT4 Correct User: 今天过得怎么样？<|end_of_turn|>GPT4 Correct Assistant:  

üßÆ 数学推理模式：

Math Correct User: 10.3 ‚àí 7988.8133=<|end_of_turn|>Math Correct Assistant:  

‚ö†Ô∏è 注意：需设置<|end_of_turn|>作为生成终止标记。

默认模板已集成至tokenizer.chat_template，可直接调用：

messages = [  
    {"role": "user", "content": "你好"},  
    {"role": "assistant", "content": "你好"},  
    {"role": "user", "content": "今天过得如何？"}  
]  
tokens = tokenizer.apply_chat_template(messages, add_generation_prompt=True)  

###任务描述：  
给定指令（可能包含输入）、待评估响应、得分为5的参考答案以及代表评分标准的分值细则：  
1. 严格根据评分细则撰写详细反馈  
2. 反馈后给出1-5分的整数评分  
3. 输出格式："Feedback: (反馈内容) [RESULT] (1-5分)"  
4. 不要生成任何开头、结尾或解释  

###待评估指令：  
{orig_instruction}  

###待评估响应：  
{orig_response}  

###参考答案（5分）：  
{orig_reference_answer}  

###评分细则：  
[{orig_criteria}]  
1分：{orig_score1_description}  
2分：{orig_score2_description}  
3分：{orig_score3_description}  
4分：{orig_score4_description}  
5分：{orig_score5_description}  

###反馈：  

*: Grok结果由X.AI官方提供

‚ö†Ô∏è 注意：该模型未专门针对中文训练（中文数据占比<0.1%）

Phi 2 GGUF

其他

Phi-2是微软开发的一个小型但强大的语言模型，具有27亿参数，专注于高效推理和高质量文本生成。

大型语言模型

支持多种语言

P

TheBloke

41.5M

205

Roberta Large

MIT

基于掩码语言建模目标预训练的大型英语语言模型，采用改进的BERT训练方法

大型语言模型

英语

R

FacebookAI

19.4M

212

Distilbert Base Uncased

Apache-2.0

DistilBERT是BERT基础模型的蒸馏版本，在保持相近性能的同时更轻量高效，适用于序列分类、标记分类等自然语言处理任务。

大型语言模型

英语

D

distilbert

11.1M

669

Llama 3.1 8B Instruct GGUF

Meta Llama 3.1 8B Instruct 是一个多语言大语言模型，针对多语言对话用例进行了优化，在常见的行业基准测试中表现优异。

大型语言模型

英语

L

modularai

9.7M

4

Xlm Roberta Base

MIT

XLM-RoBERTa是基于100种语言的2.5TB过滤CommonCrawl数据预训练的多语言模型，采用掩码语言建模目标进行训练。

大型语言模型

支持多种语言

X

FacebookAI

9.6M

664

Roberta Base

MIT

基于Transformer架构的英语预训练模型，通过掩码语言建模目标在海量文本上训练，支持文本特征提取和下游任务微调

大型语言模型

英语

R

FacebookAI

9.3M

488

Opt 125m

其他

OPT是由Meta AI发布的开放预训练Transformer语言模型套件，参数量从1.25亿到1750亿，旨在对标GPT-3系列性能，同时促进大规模语言模型的开放研究。

大型语言模型

英语

O

facebook

6.3M

198

Llama 3.1 8B Instruct

Llama 3.1是Meta推出的多语言大语言模型系列，包含8B、70B和405B参数规模，支持8种语言和代码生成，优化了多语言对话场景。

大型语言模型

Transformers

支持多种语言

L

meta-llama

5.7M

3,898

T5 Base

Apache-2.0

T5基础版是由Google开发的文本到文本转换Transformer模型，参数规模2.2亿，支持多语言NLP任务。

大型语言模型

支持多种语言

T

google-t5

5.4M

702

Xlm Roberta Large

MIT

XLM-RoBERTa是基于100种语言的2.5TB过滤CommonCrawl数据预训练的多语言模型，采用掩码语言建模目标进行训练。

大型语言模型

支持多种语言

X

FacebookAI

5.3M

431