库名称：transformers
许可证：cc-by-nc-4.0
支持语言：

• 中文
• 英文
  基础模型：
• mistralai/Mistral-Small-3.1-24B-Instruct-2503

单体模型：回归分步推理

🤗 Hugging Face  ｜ 🚀Github  ｜ 📑 论文  ｜ 🎮 官网

模型介绍

单体模型（Monomer）是一系列推理语言模型（RLMs）的集合，目前专注于中英文场景下的规划、设计和写作任务。

与其他推理语言模型不同，单体模型提供清晰的分步推理轨迹，并通过联合奖励模型进行监督，确保推理过程的连贯性、深度和结构性。

例如，给定提示：

你是一位吟游诗人，在酒馆里向众人讲述帖木儿的故事。但你要卖关子，在一开始的时候从不说他是谁，只有在最结尾时才点题。想一个具有吟游诗人风格的开场，整篇文字要富有诗意和意境。

模型会这样回应：

（此处省略详细推理过程和生成文本示例）

使用方法

该模型采用与Mistral、Gemma和Qwen相同的架构。关于推理或部署的详细说明，请参考各自模型库。这里我们以Monomer-24B-preview-e1配合vllm为例：

启动服务

vllm serve zake7749/Monomer-24b-preview-e1 --max-model-len 16384 --gpu-memory-utilization 0.95 --tensor-parallel-size 1 --limit-mm-per-prompt image=2

与单体模型对话

# 此处省略Python代码示例

我们建议使用默认系统提示与模型交互。非推理模式仍在微调中，可能产生意外结果。

对话示例

这些模型像通用推理语言模型（RLMs）一样运行，能够处理广泛的任务。以下是几个对话示例来说明它们的行为。

（此处省略详细案例展示，包括故事创作、角色扮演、文章写作和物理问题分析等示例）

基准测试

基准测试目前仍在进行中，将在最终版本完成后发布。