语言:
- 全部
许可证: apache-2.0
标签:
- minds14
- google/xtreme_s
- 训练生成
数据集:
- google/xtreme_s
评估指标:
- f1
- 准确率
模型索引:
- 名称: xtreme_s_xlsr_300m_minds14
结果: []
xtreme_s_xlsr_300m_minds14
该模型是基于facebook/wav2vec2-xls-r-300m在GOOGLE/XTREME_S - MINDS14.ALL数据集上微调得到的版本。
在评估集上取得了以下结果:
- 准确率: 0.9033
- 准确率 Cs-cz: 0.9164
- 准确率 De-de: 0.9477
- 准确率 En-au: 0.9235
- 准确率 En-gb: 0.9324
- 准确率 En-us: 0.9326
- 准确率 Es-es: 0.9177
- 准确率 Fr-fr: 0.9444
- 准确率 It-it: 0.9167
- 准确率 Ko-kr: 0.8649
- 准确率 Nl-nl: 0.9450
- 准确率 Pl-pl: 0.9146
- 准确率 Pt-pt: 0.8940
- 准确率 Ru-ru: 0.8667
- 准确率 Zh-cn: 0.7291
- F1分数: 0.9015
- F1分数 Cs-cz: 0.9154
- F1分数 De-de: 0.9467
- F1分数 En-au: 0.9199
- F1分数 En-gb: 0.9334
- F1分数 En-us: 0.9308
- F1分数 Es-es: 0.9158
- F1分数 Fr-fr: 0.9436
- F1分数 It-it: 0.9135
- F1分数 Ko-kr: 0.8642
- F1分数 Nl-nl: 0.9440
- F1分数 Pl-pl: 0.9159
- F1分数 Pt-pt: 0.8883
- F1分数 Ru-ru: 0.8646
- F1分数 Zh-cn: 0.7249
- 损失值: 0.4119
- 损失值 Cs-cz: 0.3790
- 损失值 De-de: 0.2649
- 损失值 En-au: 0.3459
- 损失值 En-gb: 0.2853
- 损失值 En-us: 0.2203
- 损失值 Es-es: 0.2731
- 损失值 Fr-fr: 0.1909
- 损失值 It-it: 0.3520
- 损失值 Ko-kr: 0.5431
- 损失值 Nl-nl: 0.2515
- 损失值 Pl-pl: 0.4113
- 损失值 Pt-pt: 0.4798
- 损失值 Ru-ru: 0.6470
- 损失值 Zh-cn: 1.1216
- 预测样本数: 4086
模型描述
需要更多信息
预期用途与限制
需要更多信息
训练与评估数据
需要更多信息
训练过程
训练超参数
训练过程中使用了以下超参数:
- 学习率: 0.0003
- 训练批次大小: 32
- 评估批次大小: 8
- 随机种子: 42
- 分布式类型: 多GPU
- 设备数量: 2
- 总训练批次大小: 64
- 总评估批次大小: 16
- 优化器: Adam (β1=0.9, β2=0.999, ε=1e-08)
- 学习率调度器类型: 线性
- 学习率预热步数: 1500
- 训练轮数: 50.0
- 混合精度训练: Native AMP
训练结果
训练损失 |
训练轮数 |
步数 |
验证损失 |
F1分数 |
准确率 |
2.6739 |
5.41 |
200 |
2.5687 |
0.0430 |
0.1190 |
1.4953 |
10.81 |
400 |
1.6052 |
0.5550 |
0.5692 |
0.6177 |
16.22 |
600 |
0.7927 |
0.8052 |
0.8011 |
0.3609 |
21.62 |
800 |
0.5679 |
0.8609 |
0.8609 |
0.4972 |
27.03 |
1000 |
0.5944 |
0.8509 |
0.8523 |
0.1799 |
32.43 |
1200 |
0.6194 |
0.8623 |
0.8621 |
0.1308 |
37.84 |
1400 |
0.5956 |
0.8569 |
0.8548 |
0.2298 |
43.24 |
1600 |
0.5201 |
0.8732 |
0.8743 |
0.0052 |
48.65 |
1800 |
0.3826 |
0.9106 |
0.9103 |
框架版本
- Transformers 4.18.0.dev0
- PyTorch 1.10.2+cu113
- Datasets 2.0.1.dev0
- Tokenizers 0.11.6