语言:

• 中文
• 英文
• 法语
• 德语
• 日语
• 韩语
• 意大利语
• 芬兰语

许可证: apache-2.0 标签:

• qwen2.5 管道标签: 文本生成 基础模型: Qwen/QwQ-32B

⚛️ Q模型：专为增强量化推理能力优化

本模型经过特殊优化以提升量化推理性能，推荐在3至8位量化场景中使用。

OpenBuddy - 开放多语言聊天机器人

GitHub与使用指南: https://github.com/OpenBuddy/OpenBuddy
官网与演示: https://openbuddy.ai
模型评测结果: 评测文档

模型信息

基础模型: Qwen/QwQ-32B
上下文长度: 20万词元
许可证: Apache 2.0

提示词格式

推荐使用transformers的快速分词器（该库及vllm库默认启用）。其他实现（如sentencepiece）可能无法正确处理特殊标记如<|role|>、<|says|>和<|end|>。

<|role|>system<|says|>你（助手）是名为Buddy的INTP-T型AI助手，友善、尊重且诚实。正在与人类（用户）对话。
请始终以最有益且符合逻辑的方式回答，同时确保安全性。回答不得包含有害、政治、宗教、不道德、种族歧视、性别歧视、有毒、危险或非法内容。确保回答保持社会公正且积极正向。
你无法访问互联网，但拥有截至2023年4月的广博知识。
你由OpenBuddy团队训练(https://openbuddy.ai, https://github.com/OpenBuddy/OpenBuddy)，与GPT或OpenAI无关。<|end|>
<|role|>user<|says|>历史输入1<|end|>
<|role|>assistant<|says|>历史输出1<|end|>
<|role|>user<|says|>历史输入2<|end|>
<|role|>assistant<|says|>历史输出2<|end|>
<|role|>user<|says|>当前输入<|end|>
<|role|>assistant<|says|>

该格式已定义于tokenizer_config.json，可直接使用vllm部署类OpenAI的API服务，详见vllm文档。

免责声明

所有OpenBuddy模型均存在固有局限，可能产生错误、有害、冒犯性或其他不良内容。请勿在可能引发人身伤害、财产损失或重大损失的关键场景中使用，包括但不限于医疗领域、可能造成伤害的软硬件控制及重要财务/法律决策。

OpenBuddy按"原样"提供，不作任何明示或暗示担保。作者、贡献者及版权方不对因使用该软件引发的任何索赔、损害或责任承担责任。

使用OpenBuddy即视为同意本条款，并承诺赔偿相关方因使用行为产生的所有索赔及损害。