基础模型: google/gemma-3-4b-it
训练数据集: open-r1/codeforces-cots
库名称: transformers
模型名称: gemma-3-4b-it-codeforces-SFT
标签:

• 训练生成
• trl
• sft
  许可证: license

gemma-3-4b-it-codeforces-SFT 模型卡

该模型是基于 google/gemma-3-4b-it 在 open-r1/codeforces-cots 数据集上微调得到的版本。
训练使用了 TRL 框架。

快速开始

from transformers import pipeline  

question = "如果你有一台时光机，但只能选择回到过去或前往未来一次且无法返回，你会选择哪个？为什么？"  
generator = pipeline("text-generation", model="qgallouedec/gemma-3-4b-it-codeforces-SFT", device="cuda")  
output = generator([{"role": "user", "content": question}], max_new_tokens=128, return_full_text=False)[0]  
print(output["generated_text"])  

训练过程

该模型采用SFT（监督式微调）方法训练。

框架版本

• TRL: 0.16.0.dev0
• Transformers: 4.50.0.dev0
• Pytorch: 2.6.0
• Datasets: 3.0.0
• Tokenizers: 0.21.0

引用

引用TRL框架请使用：

@misc{vonwerra2022trl,  
	title        = {{TRL: Transformer Reinforcement Learning}},  
	author       = {Leandro von Werra and Younes Belkada and Lewis Tunstall and Edward Beeching and Tristan Thrush and Nathan Lambert and Shengyi Huang and Kashif Rasul and Quentin Gallouédec},  
	year         = 2020,  
	journal      = {GitHub repository},  
	publisher    = {GitHub},  
	howpublished = {\url{https://github.com/huggingface/trl}}  
}