library_name: transformers tags: []

II-Medical-8B 医疗大语言模型

一、模型概述

II-Medical-8B是智能互联网研发的新一代医疗大语言模型，专为增强AI医疗推理能力而设计。在广受好评的II-Medical-7B-Preview基础上，本版本在医疗问答能力上实现重大突破。

二、训练方法

我们收集构建了全面的医疗领域推理数据集，基于Qwen/Qwen3-8B模型进行SFT微调，随后通过DAPO算法在硬推理数据集上进一步优化。

SFT阶段参数配置：

• 最大长度：16378
• 批次大小：128
• 学习率：5e-5
• 训练轮次：8

强化学习阶段配置：

• 提示词最大长度：2048 tokens
• 响应最大长度：12288 tokens
• 超长缓冲：启用（4096 tokens，惩罚系数1.0）
• 裁剪比率：低0.2，高0.28
• 批次规模：训练提示512，生成提示1536，小批次32
• 单提示响应数：16
• 采样参数：温度1.0，Top-p 1.0，Top-k -1（vLLM生成）
• 学习率：1e-6，预热步数10，权重衰减0.1
• 损失聚合：token均值
• 梯度裁剪：1.0
• 熵系数：0

三、评估结果

在医疗大模型综合评估基准HealthBench上，II-Medical-8B取得40%的得分，与OpenAI的o1推理模型及当前最先进的GPT-4.5表现相当。下方提供与ChatGPT可用模型的对比。

详细测试结果参见此处。

我们在10个医疗QA基准上测试，包括MedMCQA、MedQA、PubMedQA、MMLU-Pro和GPQA中的医学问题、《柳叶刀》和《新英格兰医学杂志》的小型QA集、MedBullets平台的4选项和5选项分类题以及MedXpertQA。

四、数据构建

训练数据集包含555,000个样本，来源如下：

1. 公开医疗推理数据集（103,031样本）

• 通用医疗推理：40,544样本
• 医疗R1蒸馏数据：22,000样本
• 中文医疗R1蒸馏数据：17,000样本
• UCSC-VLAA/m23k标记化数据：23,487样本

2. QwQ生成的合成医疗QA数据（225,700样本）

基于权威医疗数据集生成：

• MedMcQA：183,000样本
• MedQA：10,000样本
• MedReason：32,700样本

3. 精选医疗R1轨迹数据（338,055样本）

首先汇集所有公开R1轨迹：

• PrimeIntellect/SYNTHETIC-1
• GeneralReasoning/GeneralThought-430K
• AM团队/DeepSeek-R1蒸馏140万
• 开放思维/OpenThoughts2-100万
• 英伟达/Llama-Nemotron后训练数据集：仅科学子集
• 其他资源：认知计算/海豚R1、ServiceNow-AI/R1蒸馏SFT等

R1推理轨迹处理流程：

1. 嵌入生成：使用sentence-transformers/all-MiniLM-L6-v2生成提示词嵌入
2. 聚类分析：进行50,000簇的K均值聚类
3. 领域分类：
   • 每簇选取距中心最近的10个提示词
   • 使用Qwen2.5-32b-Instruct分类提示词领域
   • 根据多数表决确定簇领域标签
4. 领域过滤：仅保留标记为"医学"或"生物学"的聚类

4. 补充数学数据集

• 添加15,000个轻量R1推理轨迹样本
• 目的：增强模型通用推理能力

数据预处理

1. 完整性过滤

   • 仅保留完整生成的轨迹

2. 长度过滤

   • 最小阈值：保留超过3个单词的提示词
   • 等待词过滤：移除"Wait"出现超过47次（97百分位阈值）的轨迹

数据净化

采用两步净化法：

1. 参照开放R1项目：使用10-gram方法净化评估数据集
2. 采用s1k模糊净化法（阈值90%）

我们的流程已与评估数据集严格净化隔离

五、使用方式

本模型使用方法与Qwen或Deepseek-R1-Distill系列模型相同。

使用vLLM快速启动服务：

vllm serve Intelligent-Internet/II-Medical-8B

或使用SGLang启动：

python -m sglang.launch_server --model Intelligent-Internet/II-Medical-8B

六、使用建议

• 推荐采样参数：temperature=0.6，top_p=0.9
• 使用时请明确要求分步推理，并将最终答案置于\boxed{}中（例如："请逐步推理，并将最终答案放在\boxed{}内"）

七、局限性与注意事项

• 数据集可能存在源材料的固有偏差
• 医学知识需要定期更新
• 重要提示：本模型不适用于实际医疗用途

八、引用文献

@misc{2025II-Medical-8B,
      title={II-Medical-8B医疗推理模型}, 
      author={智能互联网},
      year={2025}
}