标签:

• 自动语音识别
• 训练生成 许可证: mit 语言:
• 卢森堡语 指标:
• 词错误率(WER) 管道标签: 自动语音识别

模型索引:

• 名称: Lemswasabi/wav2vec2-large-xlsr-53-842h-luxembourgish-4h 结果:
  • 任务: 类型: 自动语音识别 # 必填。示例: 自动语音识别 名称: 语音识别 # 可选。示例: 语音识别 指标:
    • 类型: 词错误率(WER) 值: 19.44 名称: 开发集词错误率
    • 类型: 词错误率(WER) 值: 18.77 名称: 测试集词错误率
    • 类型: 字符错误率(CER) 值: 7.16 名称: 开发集字符错误率
    • 类型: 字符错误率(CER) 值: 6.43 名称: 测试集字符错误率

模型描述

我们基于842小时未标注的卢森堡语音数据（收集自RTL.lu）对wav2vec 2.0 large XLSR-53检查点进行了微调。随后，该模型又在同一领域的4小时标注卢森堡语音数据上进行了微调。

预期用途与限制

需要更多信息

训练与评估数据

需要更多信息

训练过程

训练超参数

训练过程中使用了以下超参数:

• 学习率: 7.5e-05
• 训练批次大小: 3
• 评估批次大小: 3
• 随机种子: 42
• 梯度累积步数: 4
• 总训练批次大小: 12
• 优化器: Adam，参数为betas=(0.9,0.999)和epsilon=1e-08
• 学习率调度器类型: 线性
• 学习率预热步数: 2000
• 训练轮数: 50.0
• 混合精度训练: 原生AMP

框架版本

• Transformers 4.20.0.dev0
• Pytorch 1.11.0+cu113
• Datasets 2.2.1
• Tokenizers 0.12.1

引用

本模型是我们提交至IEEE SLT 2022研讨会的论文《IMPROVING LUXEMBOURGISH SPEECH RECOGNITION WITH CROSS-LINGUAL SPEECH REPRESENTATIONS》的成果

@misc{lb-wav2vec2,
  作者 = {Nguyen, Le Minh 和 Nayak, Shekhar 和 Coler, Matt.},
  关键词 = {卢森堡语, 多语言语音识别, 语言建模, wav2vec 2.0 XLSR-53, 资源匮乏语言},
  标题 = {利用跨语言语音表征改进卢森堡语语音识别},
  年份 = {2022},
  版权 = {2023 IEEE}
}