language:

• zh

模型卡片：Llama-3.1 Meditron-3[8B]

模型类型: 大语言模型（LLM）

专业领域: 医学

关注重点: 通用目的，包括资源有限和人道主义环境

描述: Meditron是一套专注于临床医学的大语言模型系列。这些模型由多元化的临床专家和人道主义从业者共同设计开发，其训练强调公平代表性、情境多样性以及可操作的现实世界循证指南。我们特别关注资源匮乏地区、人道主义环境、被忽视人群及疾病。本版本基于Llama-3.1[8B]基础模型训练，命名为Llama-3.1 Meditron-3[8B]。

模型详情

• 开发团队: OpenMeditron计划
• 模型架构: 仅解码器的因果Transformer语言模型
• 支持语言: 英语（主要）
• 微调基础模型: Llama-3.1-8B
• 输入形式: 纯文本
• 输出形式: 纯文本
• 状态说明: 当前为基于离线数据集训练的静态模型，后续将发布性能增强的调优版本。

用途

Meditron-3为纯研究用途模型，旨在探索评估大语言模型在提升临床决策与循证医学信息获取方面的潜力。

直接使用

Meditron-3仅限研究用途，未通过医疗应用验证（详见免责声明）。

下游应用

Meditron-3是未经微调或指令调优的基础模型套件，但可通过人类反馈强化学习（RLHF）或直接偏好优化（DPO）等技术适配特定下游任务。我们采用两种方法评估模型在问答任务中的表现：

1. 上下文学习：在提示中添加k个示例演示
2. 使用特定训练数据集进行问答任务微调

训练数据

新数据集融合专家精选的公开数据源：

• 临床指南: 来自全球医疗机构及国际组织的权威临床实践指南
• 医学期刊文献: 全文医学论文
• 合成鉴别诊断: 模拟鉴别诊断的对话数据
• 预训练回放数据: 采样自多领域前沿预训练及指令调优数据
• LLM增强医学选择题: 经大语言模型扩充的医学多选题库

完整数据集说明将发布于Meditron-3研究论文。

评估

Llama[3.1]-Meditron-3[8B]评估结果即将发布！

我们使用lm-harness框架评估医学多选题表现。虽然多选题能检验考试类能力，但无法全面反映模型在资源匮乏环境中的实际应用价值。医学实践远非选择题，需超越准确率指标，评估同理心、本地指南契合度、结构完整性及安全性等维度。为此我们搭建专家反馈平台，持续适应临床实践的变化需求。

论文

Meditron-3研究论文正在撰写中，将于后续发布。

法律免责声明

本软件及模型按"原样"提供，不作任何明示或暗示担保。开发者及贡献者不对因使用模型产生的任何索赔或损害承担责任。该模型为计算语言学及医学研究工具，未经适当验证及监管批准前不得用于临床诊断或决策。模型输出不能替代医疗专业人员判断，患者不应未经专业医疗咨询擅自用于自我诊断或治疗。

严禁未经耶鲁大学事先书面同意使用"YALE"、"EPFL"、"耶鲁大学"等关联机构名称、商标或相关人员名义。

Llama[3.1]-Meditron[8B]基于Llama 3.1社区许可证授权，版权所有© Meta Platforms, Inc。下载使用即表示同意LLaMA许可条款。