license: apache-2.0 tags:

• 训练器生成 datasets:
• 无 model_index:
• name: bert-base-uncased-multi-128 results:
  • task: name: 掩码语言建模 type: 填空补全

bert-base-uncased-multi-128

本模型是基于bert-base-uncased在无指定数据集上微调的版本，评估集表现如下：

• 损失值：2.7101

模型描述

需补充更多信息

预期用途与限制

需补充更多信息

训练与评估数据

需补充更多信息

训练流程

训练超参数

训练过程中使用的超参数如下：

• 学习率：5e-05
• 训练批大小：8
• 评估批大小：8
• 随机种子：42
• 优化器：Adam（beta1=0.9，beta2=0.999，epsilon=1e-08）
• 学习率调度器类型：线性
• 训练轮次：16

训练结果

框架版本

• Transformers 4.8.2
• Pytorch 1.7.1
• Datasets 1.16.1
• Tokenizers 0.10.3