许可证：gemma
基础模型：google/gemma-1.1-7b-it
标签：

• trl
• sft
• generated_from_trainer
  数据集：
• generator

模型索引：

• 名称：gemma-1.1-7b-it_fictional_Chinese_v1
  结果：[]

gemma-1.1-7b-it_fictional_Chinese_v1

该模型是基于google/gemma-1.1-7b-it在generator数据集上进行微调的版本。

模型描述

需要更多信息

预期用途与限制

需要更多信息

训练与评估数据

需要更多信息

训练过程

训练超参数

训练过程中使用了以下超参数：

• 学习率：5e-05
• 训练批次大小：1
• 评估批次大小：2
• 随机种子：42
• 梯度累积步数：16
• 总训练批次大小：16
• 优化器：Adam，参数betas=(0.9,0.999)，epsilon=1e-08
• 学习率调度器类型：线性
• 训练轮数：36

训练结果

（此处无内容）

框架版本

• Transformers 4.39.3
• Pytorch 2.2.2
• Datasets 2.18.0
• Tokenizers 0.15.2