🚀 Phi-4-reasoning模型卡片

Phi-4-reasoning是一款经过微调的先进推理模型，它基于Phi-4，通过监督微调与强化学习，在特定数据集上进行训练，专注于提升数学、科学和编码等方面的推理能力，为生成式AI功能提供了强大的构建模块。

🚀 快速开始

本模型适用于加速语言模型研究，可作为生成式AI功能的构建模块。若要使用该模型进行推理，可参考以下内容。

推理参数

推理时，建议设置temperature=0.8，top_p=0.95，并将do_sample设为True。对于更复杂的查询，可将最大令牌数设置为32k，以支持更长的思维链（CoT）。

输入格式

鉴于训练数据的性质，推理时请始终使用ChatML模板，并搭配以下系统提示：

<|im_start|>system<|im_sep|>
Your role as an assistant involves thoroughly exploring questions through a systematic thinking process before providing the final precise and accurate solutions. This requires engaging in a comprehensive cycle of analysis, summarizing, exploration, reassessment, reflection, backtracing, and iteration to develop well-considered thinking process. Please structure your response into two main sections: Thought and Solution using the specified format: <think> {Thought section} <\think> {Solution section}. In the Thought section, detail your reasoning process in steps. Each step should include detailed considerations such as analysing questions, summarizing relevant findings, brainstorming new ideas, verifying the accuracy of the current steps, refining any errors, and revisiting previous steps. In the Solution section, based on various attempts, explorations, and reflections from the Thought section, systematically present the final solution that you deem correct. The Solution section should be logical, accurate, and concise and detail necessary steps needed to reach the conclusion. Now, try to solve the following question through the above guidelines:<|im_end|>
<|im_start|>user<|im_sep|>
What is the derivative of x^2?<|im_end|>
<|im_start|>assistant<|im_sep|>

使用transformers库

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("microsoft/Phi-4-reasoning")
model = AutoModelForCausalLM.from_pretrained("microsoft/Phi-4-reasoning", device_map="auto", torch_dtype="auto")

messages = [
    {"role": "system", "content": "You are Phi, a language model trained by Microsoft to help users. Your role as an assistant involves thoroughly exploring questions through a systematic thinking process before providing the final precise and accurate solutions. This requires engaging in a comprehensive cycle of analysis, summarizing, exploration, reassessment, reflection, backtracing, and iteration to develop well-considered thinking process. Please structure your response into two main sections: Thought and Solution using the specified format: <think> {Thought section} </think> {Solution section}. In the Thought section, detail your reasoning process in steps. Each step should include detailed considerations such as analysing questions, summarizing relevant findings, brainstorming new ideas, verifying the accuracy of the current steps, refining any errors, and revisiting previous steps. In the Solution section, based on various attempts, explorations, and reflections from the Thought section, systematically present the final solution that you deem correct. The Solution section should be logical, accurate, and concise and detail necessary steps needed to reach the conclusion. Now, try to solve the following question through the above guidelines:"},
    {"role": "user", "content": "What is the derivative of x^2?"},
]
inputs = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt")

outputs = model.generate(
    inputs.to(model.device),
    max_new_tokens=4096,
    temperature=0.8,
    top_p=0.95,
    do_sample=True,
)
print(tokenizer.decode(outputs[0]))

使用vllm库

vllm serve microsoft/Phi-4-reasoning --enable-reasoning --reasoning-parser deepseek_r1

Phi-4-reasoning也可直接在Ollama、llama.cpp和任何与Phi-4兼容的框架中使用。

✨ 主要特性

• 先进的推理能力：Phi-4-reasoning是一款先进的开放权重推理模型，通过监督微调在思维链痕迹数据集上进行训练，并结合强化学习，专注于提升数学、科学和编码等方面的推理能力。
• 高效的架构设计：基于先前发布的Phi-4基础模型，拥有14B参数，采用密集的仅解码器Transformer架构。
• 长上下文处理能力：支持32k令牌的上下文长度，能够处理复杂的输入。
• 广泛的评估验证：在多个开源和内部基准测试中进行了评估，包括数学奥林匹克问题、代码生成、算法问题解决等，展示了出色的性能。

📦 安装指南

文档未提及安装步骤，故跳过此章节。

💻 使用示例

基础用法

使用transformers库进行推理的基础示例：

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("microsoft/Phi-4-reasoning")
model = AutoModelForCausalLM.from_pretrained("microsoft/Phi-4-reasoning", device_map="auto", torch_dtype="auto")

messages = [
    {"role": "system", "content": "You are Phi, a language model trained by Microsoft to help users. Your role as an assistant involves thoroughly exploring questions through a systematic thinking process before providing the final precise and accurate solutions. This requires engaging in a comprehensive cycle of analysis, summarizing, exploration, reassessment, reflection, backtracing, and iteration to develop well-considered thinking process. Please structure your response into two main sections: Thought and Solution using the specified format: <think> {Thought section} </think> {Solution section}. In the Thought section, detail your reasoning process in steps. Each step should include detailed considerations such as analysing questions, summarizing relevant findings, brainstorming new ideas, verifying the accuracy of the current steps, refining any errors, and revisiting previous steps. In the Solution section, based on various attempts, explorations, and reflections from the Thought section, systematically present the final solution that you deem correct. The Solution section should be logical, accurate, and concise and detail necessary steps needed to reach the conclusion. Now, try to solve the following question through the above guidelines:"},
    {"role": "user", "content": "What is the derivative of x^2?"},
]
inputs = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt")

outputs = model.generate(
    inputs.to(model.device),
    max_new_tokens=4096,
    temperature=0.8,
    top_p=0.95,
    do_sample=True,
)
print(tokenizer.decode(outputs[0]))

高级用法

使用vllm库进行推理的高级示例：

vllm serve microsoft/Phi-4-reasoning --enable-reasoning --reasoning-parser deepseek_r1

📚 详细文档

模型概述

预期用途

数据概述

训练数据集

训练数据包括数学、科学和编码领域的问答和聊天格式数据。聊天提示来自过滤后的高质量网络数据，并可通过合成数据生成管道进行重写和处理。此外，还包括提高真实性和安全性的数据。

基准数据集

使用开源的Eureka评估套件和内部基准测试对Phi-4-reasoning进行评估，具体包括：

• 推理任务：AIME 2025、2024、2023和2022数学奥林匹克问题、GPQA-Diamond复杂科学问题、OmniMath奥林匹克级数学问题集、LiveCodeBench代码生成基准、3SAT和TSP算法问题解决、BA Calendar规划、Maze和SpatialMap空间理解。
• 通用基准：Kitab信息检索、IFEval和ArenaHard指令遵循、PhiBench内部基准、FlenQA提示长度对模型性能的影响、HumanEvalPlus功能代码生成、MMLU-Pro多任务语言理解聚合数据集。

安全性

方法

Phi-4-reasoning采用了强大的安全后训练方法，通过监督微调（SFT），利用多种开源和内部生成的合成提示，以及遵循严格Microsoft安全指南的LLM生成响应。

安全评估和红队测试

在发布前，Phi-4-reasoning采用了多方面的评估方法。通过多个开源安全基准和内部工具进行定量评估，利用对抗性对话模拟。与Microsoft的独立AI红队（AIRT）合作进行定性安全评估，评估在平均和对抗性用户场景下的安全风险。还在Toxigen基准上评估模型的偏差和毒性。

模型质量

在代表性基准上的模型质量概述：

总体而言，Phi-4-reasoning仅拥有14B参数，在广泛的推理任务中表现出色，显著优于更大的开放权重模型，如DeepSeek-R1蒸馏70B模型，并接近完整的DeepSeek R1模型的性能水平。

负责任AI考虑因素

与其他语言模型一样，Phi-4-reasoning可能存在不公平、不可靠或冒犯性的行为。开发者应应用负责任AI最佳实践，并确保特定用例符合相关法律法规。建议使用Azure AI Content Safety等安全服务。

限制行为

• 服务质量：模型主要基于英语文本训练，非英语语言的性能会较差。训练数据中代表性较少的英语变体可能比标准美式英语的性能更差。Phi-4-reasoning不支持多语言使用。
• 伤害表示与刻板印象延续：模型可能过度或不足地表示某些人群，抹去某些群体的代表性，或强化贬低性或负面刻板印象。
• 不适当或冒犯性内容：模型可能产生其他类型的不适当或冒犯性内容，在敏感上下文中部署时需要额外的缓解措施。
• 信息可靠性：语言模型可能生成无意义的内容或编造听起来合理但不准确或过时的内容。
• 选举信息可靠性：模型在回答选举关键查询时存在较高的缺陷率，可能导致呈现不正确或无权威性的选举关键信息。
• 代码范围有限：Phi-4-reasoning的大部分训练数据基于Python，并使用常见包。如果模型生成使用其他包或其他语言的Python脚本，建议用户手动验证所有API使用。

考虑事项

• 分配：模型可能不适合对法律地位、资源分配或生活机会有重大影响的场景，需要进一步评估和额外的去偏技术。
• 高风险场景：开发者应评估在高风险场景中使用模型的适用性，并在应用层面实施额外的保障措施。
• 错误信息：模型可能产生不准确的信息，开发者应遵循透明度最佳实践，并建立反馈机制和管道。
• 有害内容生成：开发者应评估输出的上下文，并使用适当的安全分类器或自定义解决方案。
• 滥用：可能存在其他形式的滥用，如欺诈、垃圾邮件或恶意软件生产，开发者应确保其应用程序的安全性。

🔧 技术细节

文档未提供足够的技术实现细节，故跳过此章节。

📄 许可证

本项目采用MIT许可证，详情请见许可证链接。