语言:

• 马拉雅拉姆语 许可证: apache-2.0 标签:
• whisper-event
• 训练生成 数据集:
• mozilla-foundation/common_voice_11_0
• google/fleurs
• thennal/IMaSC
• thennal/ulca_ml
• thennal/msc
• thennal/indic_tts_ml 评估指标:
• 词错误率(WER) 基础模型: openai/whisper-medium 模型索引:
• 名称: Whisper Medium Malayalam - Thennal D K 结果:
  • 任务: 类型: 自动语音识别 名称: 自动语音识别 数据集: 名称: Common Voice 11.0 类型: mozilla-foundation/common_voice_11_0 配置: ml 分割: test 参数: ml 指标:
    • 类型: wer 值: 11.49 名称: 词错误率

Whisper Medium 马拉雅拉姆语版

该模型是基于openai/whisper-medium在Common Voice 11.0数据集上微调的版本。其在评估集上的表现如下：

• 词错误率(WER): 38.6207
• 字符错误率(CER): 7.3256

请注意，Whisper的标准化处理对马拉雅拉姆语等语言存在较大问题，因此上述评分是在未使用标准化的情况下评估的。若采用标准化处理（以便与该平台上的其他模型进行公平比较），结果则为：

• 词错误率(WER): 11.49

此Colab笔记本可作为进一步微调模型的起点。

使用说明

给定音频样本audio（可以是numpy数组或文件路径等），以下代码生成转录文本：

from transformers import pipeline, WhisperProcessor

processor = WhisperProcessor.from_pretrained("thennal/whisper-medium-ml")
forced_decoder_ids = processor.get_decoder_prompt_ids(language="ml", task="transcribe")
asr = pipeline(
        "automatic-speech-recognition", model="thennal/whisper-medium-ml", device=0,
    )
transcription = asr(audio, chunk_length_s=30, max_new_tokens=448, return_timestamps=False,  generate_kwargs={
        "forced_decoder_ids": forced_decoder_ids, 
        "do_sample": True,
    })

模型描述

需要更多信息

预期用途与限制

需要更多信息

训练与评估数据

需要更多信息

训练过程

训练超参数

训练过程中使用的超参数如下：

• 学习率: 1e-05
• 训练批次大小: 32
• 评估批次大小: 16
• 随机种子: 42
• 优化器: Adam，参数beta=(0.9,0.999)，epsilon=1e-08
• 学习率调度器类型: 线性
• 学习率预热步数: 500
• 训练步数: 8000
• 混合精度训练: Native AMP

框架版本

• Transformers 4.26.0.dev0
• Pytorch 1.13.0+cu117
• Datasets 2.7.1.dev0
• Tokenizers 0.13.2