语言: 葡萄牙语
数据集:

• Common Voice
  评估指标:
• 词错误率 (wer)
  标签:
• 音频
• 语音
• wav2vec2
• 葡萄牙语
• 俄语语音语料库
• 自动语音识别
• 语音
• PyTorch
  许可证: apache-2.0
  模型索引:
• 名称: Edresson Casanova Wav2vec2 Large 100k Voxpopuli 使用 Common Voice 7.0、MAILABS 及数据增强在俄语上微调
  结果:
  • 任务:
    名称: 语音识别
    类型: 自动语音识别
    指标:
    • 名称: 测试 Common Voice 7.0 词错误率
      类型: wer
      值: 19.46

使用 Common Voice 7.0、MAILABS 及数据增强在俄语上微调的 Wav2vec2 Large 100k Voxpopuli 模型

Wav2vec2 Large 100k Voxpopuli 使用 Common Voice 7.0、M-AILABS 及基于 TTS 和语音转换的数据增强方法在俄语上微调。

使用此模型

from transformers import AutoTokenizer, Wav2Vec2ForCTC  

tokenizer = AutoTokenizer.from_pretrained("Edresson/wav2vec2-large-100k-voxpopuli-ft-Common_Voice_plus_TTS-Dataset_plus_Data_Augmentation-russian")  

model = Wav2Vec2ForCTC.from_pretrained("Edresson/wav2vec2-large-100k-voxpopuli-ft-Common_Voice_plus_TTS-Dataset_plus_Data_Augmentation-russian")  

结果

查看论文获取详细结果

使用 Common Voice 数据集的测试示例

dataset = load_dataset("common_voice", "ru", split="test", data_dir="./cv-corpus-7.0-2021-07-21")  

resampler = torchaudio.transforms.Resample(orig_freq=48_000, new_freq=16_000)  

def map_to_array(batch):  
    speech, _ = torchaudio.load(batch["path"])  
    batch["speech"] = resampler.forward(speech.squeeze(0)).numpy()  
    batch["sampling_rate"] = resampler.new_freq  
    batch["sentence"] = re.sub(chars_to_ignore_regex, '', batch["sentence"]).lower().replace("’", "'")  
    return batch  

ds = dataset.map(map_to_array)  
result = ds.map(map_to_pred, batched=True, batch_size=1, remove_columns=list(ds.features.keys()))  
print(wer.compute(predictions=result["predicted"], references=result["target"]))