许可证: apache-2.0
标签:
- 训练生成
- 自动语音识别
- NbAiLab/NPSC
- 鲁棒语音事件
- false
- nb-NO
- hf-asr-leaderboard
数据集:
- NbAiLab/NPSC
语言:
- nb-NO
模型索引:
- 名称: XLSR-300M-bokmaal
结果:
- 任务:
名称: 自动语音识别
类型: automatic-speech-recognition
数据集:
名称: NPSC
类型: NbAiLab/NPSC
参数: 16K_mp3_bokmaal
指标:
- 名称: "测试(博克马尔语) WER"
类型: wer
值: 0.07699635320946434
- 名称: "测试(博克马尔语) CER"
类型: cer
值: 0.0284288464829
XLSR-300M-bokmaal
此模型是基于facebook/wav2vec2-xls-r-300m在NBAILAB/NPSC - 16K_MP3_BOKMAAL数据集上微调得到的版本。
在评估集上取得了以下结果:
- 损失: 0.1635
- 词错误率(WER): 0.1005
模型描述
需要更多信息
预期用途与限制
需要更多信息
训练与评估数据
需要更多信息
训练过程
训练超参数
训练过程中使用了以下超参数:
- 学习率: 0.0001
- 训练批次大小: 16
- 评估批次大小: 16
- 随机种子: 42
- 梯度累积步数: 2
- 总训练批次大小: 32
- 优化器: Adam，参数为betas=(0.9,0.999)和epsilon=1e-08
- 学习率调度器类型: 线性
- 学习率预热步数: 2000
- 训练轮数: 15.0
- 混合精度训练: Native AMP
训练结果
| 训练损失 |
轮次 |
步数 |
验证损失 |
词错误率 |
| 3.0307 |
0.32 |
500 |
3.0026 |
1.0 |
| 2.7865 |
0.64 |
1000 |
2.4849 |
0.9926 |
| 0.7522 |
0.95 |
1500 |
0.4567 |
0.3594 |
| 0.5703 |
1.27 |
2000 |
0.3440 |
0.2586 |
| 0.4762 |
1.59 |
2500 |
0.2925 |
0.2178 |
| 0.4585 |
1.91 |
3000 |
0.2442 |
0.1981 |
| 0.4013 |
2.23 |
3500 |
0.2495 |
0.1818 |
| 0.449 |
2.54 |
4000 |
0.2152 |
0.1808 |
| 0.355 |
2.86 |
4500 |
0.2179 |
0.1670 |
| 0.3142 |
3.18 |
5000 |
0.1953 |
0.1542 |
| 0.3242 |
3.5 |
5500 |
0.2103 |
0.1526 |
| 0.3016 |
3.82 |
6000 |
0.1911 |
0.1477 |
| 0.2713 |
4.13 |
6500 |
0.1836 |
0.1422 |
| 0.2807 |
4.45 |
7000 |
0.1924 |
0.1447 |
| 0.2929 |
4.77 |
7500 |
0.1848 |
0.1402 |
| 0.2595 |
5.09 |
8000 |
0.1783 |
0.1330 |
| 0.2289 |
5.41 |
8500 |
0.1901 |
0.1313 |
| 0.2567 |
5.72 |
9000 |
0.1784 |
0.1298 |
| 0.2401 |
6.04 |
9500 |
0.1956 |
0.1298 |
| 0.2098 |
6.36 |
10000 |
0.1748 |
0.1277 |
| 0.2246 |
6.68 |
10500 |
0.1777 |
0.1254 |
| 0.2197 |
7.0 |
11000 |
0.1703 |
0.1222 |
| 0.2122 |
7.32 |
11500 |
0.1917 |
0.1221 |
| 0.2746 |
7.63 |
12000 |
0.1769 |
0.1215 |
| 0.2148 |
7.95 |
12500 |
0.1736 |
0.1193 |
| 0.1915 |
8.27 |
13000 |
0.1814 |
0.1161 |
| 0.2462 |
8.59 |
13500 |
0.1748 |
0.1166 |
| 0.1872 |
8.91 |
14000 |
0.1769 |
0.1133 |
| 0.1886 |
9.22 |
14500 |
0.1852 |
0.1143 |
| 0.1789 |
9.54 |
15000 |
0.1696 |
0.1126 |
| 0.1692 |
9.86 |
15500 |
0.1817 |
0.1122 |
| 0.1765 |
10.18 |
16000 |
0.1769 |
0.1093 |
| 0.1699 |
10.5 |
16500 |
0.1604 |
0.1084 |
| 0.1591 |
10.81 |
17000 |
0.1777 |
0.1080 |
| 0.1499 |
11.13 |
17500 |
0.1645 |
0.1074 |
| 0.163 |
11.45 |
18000 |
0.1704 |
0.1065 |
| 0.1597 |
11.77 |
18500 |
0.1576 |
0.1064 |
| 0.1484 |
12.09 |
19000 |
0.1637 |
0.1041 |
| 0.1464 |
12.4 |
19500 |
0.1631 |
0.1047 |
| 0.156 |
12.72 |
20000 |
0.1686 |
0.1029 |
| 0.1625 |
13.04 |
20500 |
0.1648 |
0.1023 |
| 0.1395 |
13.36 |
21000 |
0.1688 |
0.1027 |
| 0.1387 |
13.68 |
21500 |
0.1670 |
0.1013 |
| 0.1434 |
13.99 |
22000 |
0.1677 |
0.1017 |
| 0.1442 |
14.31 |
22500 |
0.1688 |
0.1008 |
| 0.1439 |
14.63 |
23000 |
0.1647 |
0.1004 |
| 0.137 |
14.95 |
23500 |
0.1636 |
0.1006 |
框架版本
- Transformers 4.17.0.dev0
- PyTorch 1.10.1+cu102
- Datasets 1.18.2.dev0
- Tokenizers 0.11.0
Transformers%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20none;%20}%20.st1%20{%20fill:%20%235ce6cf;%20}%20.st2%20{%20fill:%20%230080ff;%20}%20.st3%20{%20clip-path:%20url(%23clippath);%20}%20%3c/style%3e%3cclipPath%20id='clippath'%3e%3crect%20class='st0'%20y='0'%20width='120'%20height='32'/%3e%3c/clipPath%3e%3c/defs%3e%3cg%20class='st3'%3e%3cg%3e%3cpath%20class='st1'%20d='M22.4,32H3.2c-1,0-2-.5-2.6-1.4-.6-.9-.7-2-.4-2.9L9.8,2.1C10.3.8,11.5,0,12.8,0s2.5.8,3,2.1l9.6,25.6c.4,1,.2,2.1-.4,2.9-.6.9-1.6,1.4-2.6,1.4ZM7.8,25.6h10l-5-13.3-5,13.3Z'/%3e%3cpath%20class='st2'%20d='M33.6,32c-1.3,0-2.5-.8-3-2.1L21,4.3c-.6-1.7.2-3.5,1.9-4.1,1.7-.6,3.5.2,4.1,1.9l9.6,25.6c.6,1.7-.2,3.5-1.9,4.1-.4.1-.8.2-1.1.2h0Z'/%3e%3cpath%20d='M71.8,9.1h-6.9v4.6h6.9c2.5,0,4.6,2,4.6,4.6h-6.9c-3.8,0-6.9,3.1-6.9,6.9s3.1,6.9,6.9,6.9h2.3c1.7,0,3.2-.4,4.6-1.2v1.2h4.6v-13.7c0-5-4.1-9.1-9.1-9.1h0ZM71.8,27.4h-2.3c-1.3,0-2.3-1-2.3-2.3s1-2.3,2.3-2.3h6.9c0,2.5-2,4.6-4.6,4.6h0Z'/%3e%3cpath%20d='M52.3,9.1h-4.6V0h-4.6V32h9.1c5,0,9.1-4.1,9.1-9.1v-4.6c0-5.1-4.1-9.1-9.1-9.1h0ZM56.9,22.9c0,2.5-2,4.6-4.6,4.6h-4.6v-13.7h4.6c2.5,0,4.6,2,4.6,4.6v4.6h0Z'/%3e%3cpath%20d='M110.9,13.7h9.1v-4.6h-9.1c-5.1,0-9.1,4.1-9.1,9.1v4.6c0,5.1,4.1,9.1,9.1,9.1h9.1v-4.6h-9.1c-2.5,0-4.6-2-4.6-4.6h13.7v-4.6h-13.7c0-2.5,2-4.6,4.6-4.6h0Z'/%3e%3cpath%20d='M93.6,18.3h-4.6c-1.3,0-2.3-1-2.3-2.3s1-2.3,2.3-2.3h10.3v-4.6h-10.3c-3.8,0-6.9,3.1-6.9,6.9s3.1,6.9,6.9,6.9h4.6c1.3,0,2.3,1,2.3,2.3s-1,2.3-2.3,2.3h-10.3v4.6h10.3c3.8,0,6.9-3.1,6.9-6.9s-3.1-6.9-6.9-6.9Z'/%3e%3c/g%3e%3c/g%3e%3c/svg%3e)