基础模型: Qwen/Qwen3-8B 数据集: mlxha/medmcqa-grpo 库名称: transformers 模型名称: Qwen3-8B-grpo-medmcqa 标签:

• 训练生成
• 开放R1
• trl
• grpo 许可证: license

Qwen3-8B-grpo-medmcqa模型卡

该模型是基于Qwen/Qwen3-8B在mlxha/medmcqa-grpo数据集上微调的版本。 它使用了TRL进行训练。

快速开始

from transformers import pipeline

question = "如果你有一台时光机，但只能选择回到过去或前往未来一次且无法返回，你会选择哪个？为什么？"
generator = pipeline("text-generation", model="mlxha/Qwen3-8B-grpo-medmcqa", device="cuda")
output = generator([{"role": "user", "content": question}], max_new_tokens=128, return_full_text=False)[0]
print(output["generated_text"])

训练过程

该模型采用GRPO方法训练，该方法首次发表于DeepSeekMath: 突破开放语言模型数学推理极限。

框架版本

• TRL: 0.18.0.dev0
• Transformers: 4.52.0.dev0
• Pytorch: 2.6.0
• Datasets: 3.6.0
• Tokenizers: 0.21.1

引用文献

引用GRPO方法:

@article{zhihong2024deepseekmath,
    title        = {{DeepSeekMath: 突破开放语言模型数学推理极限}},
    author       = {邵志宏、王培毅、朱启浩、徐润新、宋俊晓、张明川、李永康、吴毅、郭大冶},
    year         = 2024,
    eprint       = {arXiv:2402.03300},
}

引用TRL框架:

@misc{vonwerra2022trl,
	title        = {{TRL: 基于Transformer的强化学习}},
	author       = {莱安德罗·冯·韦拉、尤尼斯·贝尔卡达、刘易斯·坦斯托尔、爱德华·比钦、特里斯坦·思拉什、内森·兰伯特、黄胜义、卡希夫·拉苏尔、昆汀·加卢埃德克},
	year         = 2020,
	journal      = {GitHub仓库},
	publisher    = {GitHub},
	howpublished = {\url{https://github.com/huggingface/trl}}
}