许可证: mit
许可证链接: https://huggingface.co/microsoft/phi-4-gguf/resolve/main/LICENSE
语言:

• 英语
  任务标签: 文本生成
  标签:
• phi
• 自然语言处理
• 数学
• 代码
• 聊天
• 对话式
  推理参数:
  温度: 0
  小部件示例:
• 消息:
  • 角色: 用户
    内容: 我该如何向别人解释互联网？
    库名称: transformers

Phi-4 模型卡片

模型概述

预期用途

数据概览

训练数据集

我们的训练数据是对Phi-3所用数据的扩展，包含多种来源：

1. 经过严格质量筛选的公开文档、精选高质量教育数据和代码。

2. 新创建的合成"教科书式"数据，用于教授数学、编程、常识推理、世界常识（科学、日常活动、心理理论等）。

3. 获取的学术书籍和问答数据集。

4. 涵盖各类主题的高质量聊天格式监督数据，反映人类在指令遵循、真实性、诚实度和帮助性等方面的偏好。

多语言数据约占总体数据的8%。我们专注于可能提升模型推理能力的数据质量，并对公开文档进行筛选以确保知识水平适当。

基准数据集

我们使用OpenAI的SimpleEval和内部基准评估phi-4，具体包括：

• MMLU: 多任务语言理解的流行综合数据集。
• MATH: 具有挑战性的竞赛数学题。
• GPQA: 复杂的研究生级科学问题。
• DROP: 复杂理解和推理。
• MGSM: 多语言小学数学。
• HumanEval: 功能性代码生成。
• SimpleQA: 事实性回答。

安全性

方法

phi-4采用了强大的安全后训练方法，结合开源和内部生成的合成数据集。安全对齐技术包括监督微调(SFT)和迭代直接偏好优化(DPO)，涵盖针对帮助性和无害性的公开数据集以及多类安全问题问答。

安全评估与红队测试

发布前，phi-4经过多层面评估：使用开源安全基准和对抗对话模拟的内部工具进行量化评估；与微软独立AI红队(AIRT)合作进行定性评估，测试典型和对抗场景下的安全风险，包括越狱、编码攻击、多轮攻击等。

详情请参阅技术报告。

模型质量

通过OpenAI SimpleEval基准对比phi-4与其他模型表现（数值越高越好）：

*注：Meta报告的Llama-3.3-70B在MATH和HumanEval上分数更高（分别为77和88），可能因simple-evals严格的格式要求导致分数差异。

使用方式

输入格式

建议使用以下聊天格式：

<|im_start|>system<|im_sep|>
你是一位中世纪骑士，需要向现代人解释事物。<|im_end|>
<|im_start|>user<|im_sep|>
我该如何解释互联网？<|im_end|>
<|im_start|>assistant<|im_sep|>

使用llama.cpp

按文档安装后，通过以下命令与4位量化版phi-4交互：

~/llama.cpp/build/bin/llama-cli -m phi-4-q4.gguf -cnv -c 16384 -p "你是一位中世纪骑士，需要向现代人解释事物。"

负责任AI考量

需注意的潜在限制行为包括：

• 服务质量: 主要基于英语训练，其他语言性能较差。
• 偏见与刻板印象: 可能过度代表或强化负面刻板印象。
• 不当内容: 可能生成不适当内容。
• 信息可靠性: 可能生成不准确内容。
• 代码局限性: 主要基于Python常见包，建议人工验证生成的代码。

建议开发者：

• 应用负责任AI最佳实践
• 使用Azure AI内容安全等服务
• 对高风险场景进行额外评估
• 建立透明机制和反馈渠道
• 防范滥用风险

开发者需确保应用符合相关法律法规。