标签:

• 自动语音识别
• 由训练器生成 语言:
• 卢森堡语 指标:
• 词错误率(WER) 管道标签: 自动语音识别 许可证: MIT

模型索引:

• 名称: Lemswasabi/wav2vec2-large-xlsr-53-842h-luxembourgish-14h-with-lm 结果:
  • 任务: 类型: 自动语音识别 # 必填。示例: 自动语音识别 名称: 语音识别 # 可选。示例: 语音识别 指标:
    • 类型: WER 值: 11.68 名称: 开发集WER
    • 类型: WER 值: 10.71 名称: 测试集WER
    • 类型: CER 值: 2.64 名称: 开发集CER
    • 类型: CER 值: 2.31 名称: 测试集CER

模型描述

我们基于842小时的未标注卢森堡语语音数据（采集自RTL.lu）对wav2vec 2.0 large XLSR-53检查点进行了微调。随后，该模型又在来自同一领域的14小时标注卢森堡语语音数据上进行了微调。

预期用途与限制

需要更多信息

训练与评估数据

需要更多信息

训练过程

训练超参数

训练过程中使用了以下超参数:

• 学习率: 7.5e-05
• 训练批次大小: 3
• 评估批次大小: 3
• 随机种子: 42
• 梯度累积步数: 4
• 总训练批次大小: 12
• 优化器: Adam，参数为betas=(0.9,0.999)和epsilon=1e-08
• 学习率调度器类型: 线性
• 学习率预热步数: 2000
• 训练轮数: 50.0
• 混合精度训练: 原生AMP

框架版本

• Transformers 4.20.0.dev0
• Pytorch 1.11.0+cu113
• Datasets 2.2.1
• Tokenizers 0.12.1

引用

本模型是我们提交至IEEE SLT 2022研讨会的论文《利用跨语言语音表征提升卢森堡语语音识别性能》的研究成果

@misc{lb-wav2vec2,
  作者 = {Nguyen, Le Minh 和 Nayak, Shekhar 以及 Coler, Matt.},
  关键词 = {卢森堡语, 多语言语音识别, 语言建模, wav2vec 2.0 XLSR-53, 资源匮乏语言},
  标题 = {利用跨语言语音表征提升卢森堡语语音识别性能},
  年份 = {2022},
  版权 = {2023 IEEE}
}