许可证：apache-2.0
标签：

• 训练生成
  模型索引：
• 名称：bert-base-cased-wikitext2
  结果：[]

bert-base-cased-wikitext2

该模型是基于bert-base-cased在None数据集上微调的版本。
在评估集上取得了以下结果：

• 损失：6.8517

模型描述

需补充更多信息

预期用途与限制

需补充更多信息

训练与评估数据

需补充更多信息

训练流程

训练超参数

训练过程中使用了以下超参数：

• 学习率：2e-05
• 训练批次大小：8
• 评估批次大小：8
• 随机种子：42
• 优化器：Adam（beta=(0.9,0.999)，epsilon=1e-08）
• 学习率调度器类型：线性
• 训练轮次：3.0

训练结果

框架版本

• Transformers 4.16.2
• PyTorch 1.10.0+cu111
• Datasets 1.18.3
• Tokenizers 0.11.0