license: mit
library_name: transformers
pipeline_tag: text-generation
base_model:

• deepseek-ai/DeepSeek-R1

MAI-DS-R1是微软AI团队对DeepSeek-R1推理模型进行后训练的成果，旨在提升其对敏感话题的响应能力并优化风险表现，同时保持原有的推理能力和竞争优势。

模型详情

模型描述

MAI-DS-R1是基于DeepSeek-R1的推理模型，经过微软AI团队后训练以填补先前版本的信息缺口并改善风险表现，同时保留R1的推理能力。训练数据包括来自Tulu 3 SFT数据集的11万条安全与合规案例，以及内部开发的约35万条多语言案例，涵盖存在报告偏见的各类主题。

该模型成功解除了原始R1模型对大多数查询的限制，并在相关安全基准测试中优于Perplexity近期发布的R1-1776模型（后训练版本）。这些成果的取得未损害原始DeepSeek-R1的通用推理能力。

请注意：微软通过后训练解决了模型输出的部分局限，但原有安全考量等限制仍然存在。

用途

直接使用

MAI-DS-R1保留了DeepSeek-R1的通用推理能力，适用于广泛的语言理解与生成任务，特别是复杂推理和问题解决场景，包括：

• 通用文本生成与理解：根据提示生成连贯、上下文相关的文本，如对话、文章续写或故事创作。
• 常识问答：回答需要事实性知识的开放领域问题。
• 推理与解题：通过思维链策略处理多步推理任务（如数学应用题或逻辑谜题）。
• 代码生成与解释：辅助编程任务，包括生成代码片段或解释代码逻辑。
• 科研学术应用：支持STEM领域及学术研究中的结构化问题求解。

下游使用（可选）

可作为领域专用推理任务（如数学自动辅导系统、编程助手、科研工具）的基础模型进行微调。

超范围使用

以下场景因伦理/安全风险或可靠性不足被列为超范围：

• 医疗健康建议：非医疗设备，无法保证诊断或治疗建议的准确性。
• 法律咨询：不能替代律师提供法律意见或自主决策。
• 安全关键系统：禁止用于自动驾驶、航空管制、医疗生命支持等无人监督的高风险场景。
• 高利害决策支持：不应用于财务规划、投资建议等影响个人福祉的决策。
• 恶意用途：禁止生成有害、违法、欺骗性内容，包括仇恨言论、暴力、隐私侵犯等。

偏见、风险与局限

• 偏见：可能保留训练数据及原始DeepSeek-R1中的文化/人口统计偏见。
• 风险：特定条件下仍可能虚构事实、受对抗性提示影响或生成不安全内容，需部署内容审核机制。
• 局限：知识截止日期与原始模型相同，可能缺乏近期事件或专业领域知识。

使用建议

• 透明度：明确告知用户模型的潜在偏见和局限。
• 人工审核：高风险场景应结合人工复核或自动化验证。
• 安全防护：集成内容过滤、提示工程最佳实践和持续监控。
• 合规性：注意模型可能输出涉及中国治理等敏感内容，需符合当地法规。

评估

测试数据、因素与指标

测试数据

1. 公开基准：涵盖自然语言推理、问答、数学推理、代码生成等任务，评估通用能力。
2. 解禁测试集：包含3.3k条原R1屏蔽的多语言提示，覆盖11种语言。
3. 危害缓解测试集：基于HarmBench的320条查询，评估有害内容泄漏率。

关键指标

• 公开基准：准确率、Pass@1（首次尝试通过率）。
• 解禁评估：满意度（0-4分衡量回答相关性）、解禁成功率。
• 危害缓解：攻击成功率（按语义类别分类）、微观平均攻击成功率。

结果摘要

• 通用能力：与DeepSeek-R1持平，在中文思维链推理（mgsm_chain_of_thought_zh）上显著优于R1-1776。
• 解禁表现：99.3%的样本保持屏蔽，但响应相关性更高。
• 危害控制：在减少有害内容方面优于R1原始版和R1-1776。

架构与目标

• 架构：基于DeepSeek-R1的Transformer自回归模型，采用多头自注意力与混合专家（MoE）机制。
• 目标：通过后训练降低政治对齐限制，增强危害防护，同时保留思维链推理和通用语言理解能力。
• 基模型：DeepSeek-R1（671B参数）。