标签:

• 自动语音识别
• 训练生成 许可证: mit 语言:
• 卢森堡语 评估指标:
• 词错误率(WER) 任务标签: 自动语音识别

模型索引:

• 名称: Lemswasabi/wav2vec2-large-xlsr-53-842h-luxembourgish-14h-with-lm 结果:
  • 任务: 类型: 自动语音识别 # 必填。示例: 自动语音识别 名称: 语音识别 # 可选。示例: 语音识别 评估指标:
    • 类型: 词错误率(WER) 值: 9.50 名称: 开发集词错误率
    • 类型: 词错误率(WER) 值: 9.30 名称: 测试集词错误率
    • 类型: 字符错误率(CER) 值: 2.17 名称: 开发集字符错误率
    • 类型: 字符错误率(CER) 值: 2.08 名称: 测试集字符错误率

模型描述

我们基于一个wav2vec 2.0大型XLSR-53检查点进行了微调，使用了从RTL.lu收集的842小时未标注卢森堡语语音数据。随后，该模型又在同一领域的14小时标注卢森堡语语音数据上进行了微调。此外，我们还利用同一领域文本语料库训练的5-gram语言模型对输出转录进行了重新评分。

预期用途与限制

需要更多信息

训练与评估数据

需要更多信息

训练过程

训练超参数

训练过程中使用了以下超参数:

• 学习率: 7.5e-05
• 训练批次大小: 3
• 评估批次大小: 3
• 随机种子: 42
• 梯度累积步数: 4
• 总训练批次大小: 12
• 优化器: Adam，参数为betas=(0.9,0.999)和epsilon=1e-08
• 学习率调度器类型: 线性
• 学习率预热步数: 2000
• 训练轮数: 50.0
• 混合精度训练: 原生AMP

框架版本

• Transformers 4.20.0.dev0
• Pytorch 1.11.0+cu113
• Datasets 2.2.1
• Tokenizers 0.12.1

引用

该模型是我们提交给IEEE SLT 2022研讨会的论文《IMPROVING LUXEMBOURGISH SPEECH RECOGNITION WITH CROSS-LINGUAL SPEECH REPRESENTATIONS》的成果

@misc{lb-wav2vec2,
  作者 = {Nguyen, Le Minh and Nayak, Shekhar and Coler, Matt.},
  关键词 = {卢森堡语, 多语言语音识别, 语言建模, wav2vec 2.0 XLSR-53, 资源匮乏语言},
  标题 = {利用跨语言语音表征改进卢森堡语语音识别},
  年份 = {2022},
  版权 = {2023 IEEE}
}