基础模型: deepseek-ai/DeepSeek-R1-Distill-Llama-8B
许可证: mit
任务标签: 问答
标签:

• 医疗
• 思维链
• 微调
• qlora
• unsloth

DeepSeek-R1-Medical-CoT

🚀 为医疗思维链推理优化的DeepSeek R1微调模型

本模型是基于deepseek-ai/DeepSeek-R1-Distill-Llama-8B的微调版本，专门通过思维链(CoT)提示增强医疗推理能力。采用QLoRA量化技术结合Unsloth优化方案进行训练，可在有限硬件资源下实现高效微调。

📌 模型详情

模型描述

• 开发者: [您的姓名或机构]
• 基础模型: deepseek-ai/DeepSeek-R1-Distill-Llama-8B
• 支持语言: 英语（侧重医学术语）
• 训练数据: 医疗推理数据集(medical-o1-reasoning-SFT)
• 微调方法: QLoRA（4位适配器），最终合并为16位权重
• 优化方案: Unsloth（内存占用更低，微调速度提升2倍）

模型来源

• 代码库: [您的Hugging Face模型库链接]
• 论文（如适用）: [链接]
• 演示（如适用）: [链接]

🛠 使用指南

1️⃣ 加载模型

from transformers import AutoModelForCausalLM, AutoTokenizer  

repo_name = "您的huggingface用户名/DeepSeek-R1-Medical-CoT"  

tokenizer = AutoTokenizer.from_pretrained(repo_name)  
model = AutoModelForCausalLM.from_pretrained(repo_name)  

model.eval()  

2️⃣ 运行推理

prompt = "糖尿病的早期症状有哪些？"  
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)  

with torch.no_grad():  
    output = model.generate(**inputs, max_new_tokens=200)  

response = tokenizer.decode(output[0], skip_special_tokens=True)  
print("模型响应:", response)  

📢 致谢

• 感谢DeepSeek-AI开源DeepSeek-R1基础模型
• 感谢Unsloth提供的高效LoRA微调方案
• 感谢Hugging Face平台托管模型