许可证：Apache-2.0
缩略图：https://cdn-uploads.huggingface.co/production/uploads/6625f4a8a8d1362ebcc3851a/hIZ2ZcaDyfYLT9Yd4pfOs.jpeg
语言：

• 英文
  基础模型：
• Qwen/QwQ-32B
  库名称：transformers
  流水线标签：文本生成

QwQ-32B-ArliAI-RpR-v4

图片由Arli AI图像生成工具生成 https://www.arliai.com/image-generation

RpR v4 更新：

ArliAI迄今为止最优秀的角色扮演/创意模型再次升级。

• 减少重复和模仿
  在RpR v3的创意和跳出框架思维的基础上，采用了更先进的过滤方法，以去除语言模型重复相似短语或替用户发言的示例。任何重复或模仿行为的发生都将归因于基础QwQ模型的训练方式，而非RpR数据集。

• 增加训练序列长度
  训练序列长度增至16K，以提升在较长对话中的意识和记忆能力。

RpR系列概述：基于RPMax与推理的构建

RpR（带推理的角色扮演）是ArliAI推出的新系列模型。该系列直接建立在RPMax系列成功的数据集整理方法和训练技术之上。

RpR模型使用与RPMax相同的经过整理、去重的角色扮演和创意写作数据集，重点在于多样性，以确保高度创意并最小化跨上下文重复。熟悉RPMax的用户会认出这种独特、非重复的写作风格，与其他为角色扮演微调的模型不同。

随着QwQ作为首个高性能开源推理模型的发布，可以轻松训练，但现有的指令和创意写作推理数据集每个示例仅包含一个响应。这种单响应数据集在长多轮对话中会导致输出质量下降。因此，Arli AI决定创建一个真正支持长多轮对话推理的角色扮演模型。

为了创建RpR，我们首先需要将现有的优质RPMax数据集重新处理为推理数据集。通过使用基础QwQ Instruct模型为RPMax数据集中的每个对话示例生成推理过程，并进一步优化以确保推理与数据集中的实际响应示例一致。

另一个关键点是确保模型在训练中看到的推理块与推理时的呈现方式一致，即在上下文中从不显示推理块。为此，训练使用axolotl和手动无模板分段数据集，确保模型在训练中不会看到上下文中的推理块，就像推理时的使用方式一样。

在这种数据集和方法下训练的QwQ模型，即使在长多轮角色扮演对话中，也能持续输出连贯且有趣的响应。据我们所知，这是首个真正为角色扮演和创意写作正确训练的推理模型。

您可以在https://arliai.com访问该模型，我们还提供了模型排名页面：https://www.arliai.com/models-ranking

在我们的新Discord服务器https://discord.com/invite/t75KbPgwhk或Reddit社区https://www.reddit.com/r/ArliAI/提问。

模型描述

QwQ-32B-ArliAI-RpR-v4是RpR系列的第三次发布。这是一个320亿参数的模型，基于整理的RPMax数据集微调，结合了在长多轮对话中保持推理能力的技术。

推荐采样器

• RpR模型不适用于重复惩罚类采样器，即使是XTC或DRY等高级采样器。
• 它最适合简单的采样器设置，并允许长时间推理（高最大标记数）。
• 您也可以下载本仓库文件部分上传的ST主导出文件。

建议初始设置：

• 温度：1.0
• MinP：0.02
• TopK：40
• 响应标记数：2048+

规格

• 基础模型：QwQ-32B
• 最大上下文长度：使用Yarn可达128K（原生32K）
• 参数：320亿
• 推理模型：是

训练详情

• 序列长度：16384
• 周期数：1周期训练（继承自RPMax方法）
• 微调方法：RS-QLORA+（秩稳定LoRA + LoRA Plus 8x）
• 秩/Alpha：128秩，128 Alpha
• 学习率：0.00001
• 调度器：Rex
• 梯度累积：32

训练图表

量化

• BF16：https://huggingface.co/ArliAI/QwQ-32B-ArliAI-RpR-v4
• GGUF：https://huggingface.co/ArliAI/QwQ-32B-ArliAI-RpR-v4-GGUF

如何在ST中正确使用推理模型

对于任何推理模型，需确保：

• 前缀仅设置为<think>，后缀仅设置为</think>，无空格或换行符（回车）。
• 回复以<think>开头。
• 取消勾选“始终添加角色名称”。
• “包含名称”设置为“从不”。
• 聊天模板也应符合所用模型的要求。

注意：推理模型仅在“包含名称”设置为“从不”时正常工作，因为它们始终期望用户回合的eos标记后跟<think>标记以开始推理，然后输出响应。如果启用“包含名称”，则会在末尾附加角色名称如“Seraphina:<eos_token>”，这会混淆模型应先响应还是先推理。

其他采样器参数可按需设置。

如果未看到推理块中的推理内容，则可能是设置仍不符合示例要求，或ST版本过旧不支持自动解析推理块。

如果整个响应都在推理块中，则<think>和</think>标记的前缀或后缀可能有额外空格或换行符，或者模型本身不够智能，无法始终将推理内容放在这些标记之间。

如果一切设置正确，应如下所示：

试试看！

模型偏好是主观的，请亲自尝试QwQ-32B-ArliAI-RpR-v4。您的反馈（无论好坏）对我们改进未来的RPMax和RpR模型都非常宝贵。