语言:

• 英文 标签:
• llama 许可证: 其他

OpenChat：利用不完美数据推进开源语言模型发展

OpenChat v2系列受到离线强化学习启发，包含条件行为克隆（OpenChat-v2）和加权行为克隆（OpenChat-v2-w）两个版本。

• OpenChat-v2-w：基于LLaMA-13B框架（上下文长度2048），使用约8万条经过清洗的ShareGPT数据，采用条件加权损失训练。
  • 在MT-bench基准测试中以**50.9%**胜率超越ChatGPT
  • 在Vicuna-bench基准测试中以**79.4%**胜率超越ChatGPT
  • 在AlpacaEval基准测试中以**87.1%**胜率超越text-davinci-003
• OpenChat-v2：基于LLaMA-13B框架（上下文长度2048），使用约8万条经过清洗的ShareGPT数据，仅采用条件训练。
  • 在MT-bench基准测试中以**48.1%**胜率超越ChatGPT
  • 在Vicuna-bench基准测试中以**80.6%**胜率超越ChatGPT
  • 在AlpacaEval基准测试中以**85.0%**胜率超越text-davinci-003

代码与推理服务器

我们在OpenChat GitHub仓库中提供了完整源代码，包括兼容"ChatCompletions"API的推理服务器。

网页交互界面

OpenChat还包含优化用户体验的网页界面，具体配置指南请参见GitHub仓库。

对话模板

该对话模板采用令牌拼接技术，无法用纯文本表示。

除基础模型词表外，新增了对话终止标记<|end_of_turn|>。

以下是单轮对话模板示例：

def tokenize_single_input(tokenizer, prompt):
    # OpenChat V2版本
    human_prefix = "用户："
    prefix    = "助手GPT4："
    eot_token = "<|end_of_turn|>"
    bos_token = "<s>"

    def _tokenize(text):
        return tokenizer.convert_tokens_to_ids(tokenizer._tokenize(text))

    def _tokenize_special(special_name):
        return tokenizer.convert_tokens_to_ids(special_name)
    
    return [_tokenize_special(bos_token)] + _tokenize(human_prefix) + _tokenize(prompt) + [_tokenize_special(eot_token)] + \
           _tokenize(prefix)

若需模拟ChatGPT行为（可能降低性能），可将prefix设置为"助手GPT3："。

提示：在BPE编码中，tokenize(A) + tokenize(B)并不总等于tokenize(A + B)

局限性说明

基础模型固有局限 尽管具备先进能力，OpenChat仍受限于基础模型的固有缺陷，可能影响以下领域的表现：

• 复杂逻辑推理
• 数学运算任务
• 编程代码挑战

虚构信息风险 本模型可能生成不真实或不准确的"幻觉"信息，使用者应对关键信息进行核实。