许可证: mit
许可证链接: https://huggingface.co/microsoft/Phi-4-reasoning-plus/resolve/main/LICENSE
语言:

• 英文
  基础模型:
• microsoft/Phi-4-reasoning-plus
  任务标签: 文本生成
  标签:
• phi
• unsloth
• 自然语言处理
• 数学
• 代码
• 聊天
• 对话式
• 推理
  推理参数:
  温度: 0
  示例输入:
• 消息:
  • 角色: 用户
    内容: x^2的导数是什么？
    库名称: transformers

Phi-4推理增强版模型卡

Phi-4推理技术报告

模型概览

预期用途

数据概览

训练数据集

我们的训练数据是数学、科学和编程领域的问答及聊天格式数据的混合。聊天提示来源于经过过滤的高质量网络数据，并通过合成数据生成管道进行可选的重写和处理。我们进一步包含提高真实性和安全性的数据。

基准数据集

我们使用开源的Eureka评估套件和内部基准来评估Phi-4推理增强版的能力。具体评估包括：

推理任务：

• AIME 2025、2024、2023和2022： 数学奥赛问题。
• GPQA-Diamond： 复杂的研究生级科学问题。
• OmniMath： 超过4000道奥赛级数学问题的人工标注集合。
• LiveCodeBench： 来自编程竞赛的代码生成基准。
• 3SAT（三文字可满足性问题）和TSP（旅行商问题）： 算法问题解决。
• BA Calendar： 规划。
• Maze和SpatialMap： 空间理解。

通用基准：

• Kitab： 信息检索。
• IFEval和ArenaHard： 指令遵循。
• PhiBench： 内部基准。
• FlenQA： 提示长度对模型性能的影响。
• HumanEvalPlus： 功能性代码生成。
• MMLU-Pro： 多任务语言理解的流行聚合数据集。

安全性

方法

Phi-4推理增强版通过监督微调（SFT）采用了强大的安全后训练方法。该方法利用开源和内部生成的合成提示，其LLM生成的响应遵循严格的微软安全准则，例如用户理解与清晰性、安全与伦理准则、限制、免责声明和知识范围、处理复杂和敏感话题、安全与尊重互动、准则保密性和思维链保密性。

安全评估与红队测试

发布前，Phi-4推理增强版遵循了多方面的评估方法。定量评估通过多个开源安全基准和利用对抗性对话模拟的内部工具进行。定性安全评估中，我们与微软独立的AI红队（AIRT）合作，评估Phi-4推理增强版在普通和对抗性用户场景中的安全风险。普通用户场景中，AIRT模拟典型的单轮和多轮交互以识别潜在风险行为。对抗性用户场景测试了广泛的技术，旨在故意颠覆模型的安全训练，包括基础性、越狱、仇恨与不公平、暴力、性内容或自残等有害内容，以及受保护材料的版权侵犯。我们进一步在Toxigen基准上评估模型，该基准旨在衡量针对少数群体的偏见和毒性。

更多安全对齐细节请参阅技术报告。

模型质量

以下是模型在代表性基准上的高质量概览。表中数值越高表示性能越好：

总体而言，仅140亿参数的Phi-4推理和Phi-4推理增强版在广泛的推理任务中表现良好，显著优于DeepSeek-R1蒸馏版700亿参数等更大的开源模型，并接近完整DeepSeek R1模型的性能水平。我们还在多个新的推理基准上测试了模型，包括3SAT、TSP和BA-Calendar等算法问题解决和规划任务。这些新任务名义上是模型训练领域之外的，但模型仍表现出对这些任务的强大泛化能力。此外，在评估标准通用能力基准（如指令遵循或非推理任务）的性能时，我们发现新模型相比Phi-4有显著提升，尽管后训练主要针对特定领域的推理技能。

使用

推理参数

推理时建议使用temperature=0.8、top_p=0.95和do_sample=True。对于更复杂的查询，将最大标记数设置为32k以允许更长的思维链（CoT）。

Phi-4推理增强版在推理密集型任务上表现出色。在我们的实验中，我们将其最大标记数扩展到64k，它能够处理更长的序列并保持连贯性和逻辑一致性，这使得它成为需要深度多步推理或广泛上下文的任务的理想选择。

输入格式

鉴于训练数据的性质，推理时始终使用以下系统提示的ChatML模板：

<|im_start|>system<|im_sep|>  
作为助手，您的角色是通过系统化的思考过程彻底探索问题，然后提供最终精确和准确的解决方案。这需要参与全面的分析、总结、探索、重新评估、反思、回溯和迭代循环，以形成深思熟虑的思考过程。请将您的响应分为两个主要部分：思考和解决方案，使用指定格式：<think> {思考部分} </think> {解决方案部分}。在思考部分，详细说明您的推理过程步骤。每个步骤应包括详细考虑，如分析问题、总结相关发现、头脑风暴新想法、验证当前步骤的准确性、修正任何错误以及回顾先前步骤。在解决方案部分，基于思考部分的各种尝试、探索和反思，系统地呈现您认为正确的最终解决方案。解决方案部分应逻辑清晰、准确简洁，并详细说明得出结论所需的必要步骤。现在，请尝试通过上述指南解决以下问题：<|im_end|>  
<|im_start|>user<|im_sep|>  
x^2的导数是什么？<|im_end|>  
<|im_start|>assistant<|im_sep|>  

使用transformers

from transformers import AutoTokenizer, AutoModelForCausalLM  

tokenizer = AutoTokenizer.from_pretrained("microsoft/Phi-4-reasoning-plus")  
model = AutoModelForCausalLM.from_pretrained("microsoft/Phi-4-reasoning-plus", device_map="auto", torch_dtype="auto")  

messages = [  
    {"role": "system", "content