language:

• es datasets:
• common_voice tags:
• audio
• automatic-speech-recognition

UniSpeech-Large-plus 西班牙语版

微软的UniSpeech

该大模型基于16kHz采样的语音音频和音素标签进行预训练，并在1小时西班牙语音素数据上微调。使用时请确保语音输入同样以16kHz采样，且文本已转换为音素序列。

论文：UniSpeech：统一语音表征学习——结合标注与无标注数据

作者：王成毅、吴宇、钱尧、Kumatani Kenichi、刘树杰、韦福如、曾迈克尔、黄学东

摘要 本文提出名为UniSpeech的统一预训练方法，通过多任务学习同时进行监督式音素CTC学习和音素感知对比自监督学习，生成的表征能更好捕捉音素结构信息并提升跨语言跨领域泛化能力。我们在CommonVoice公开语料库上评估跨语言表征学习效果，结果显示UniSpeech相比自监督预训练和监督迁移学习，分别最高可降低13.4%和17.8%的相对音素错误率（所有测试语言平均值）。在领域迁移语音识别任务中，UniSpeech相较之前方法实现了6%的相对词错误率下降，进一步证明了其迁移能力。

原始模型参见：https://github.com/microsoft/UniSpeech/tree/main/UniSpeech

使用说明

这是专用于音素分类的语音微调模型。

推理示例

import torch
from datasets import load_dataset
from transformers import AutoModelForCTC, AutoProcessor
import torchaudio.functional as F

model_id = "microsoft/unispeech-1350-en-168-es-ft-1h"

sample = next(iter(load_dataset("common_voice", "es", split="test", streaming=True)))
resampled_audio = F.resample(torch.tensor(sample["audio"]["array"]), 48_000, 16_000).numpy()

model = AutoModelForCTC.from_pretrained(model_id)
processor = AutoProcessor.from_pretrained(model_id)

input_values = processor(resampled_audio, return_tensors="pt").input_values

with torch.no_grad():
    logits = model(input_values).logits

prediction_ids = torch.argmax(logits, dim=-1)
transcription = processor.batch_decode(prediction_ids)
# 输出示例：
# b j e n i k e ɾ ɾ e ɣ a l o a s a β ɾ i ɾ p ɾ i m e ɾ o'
# 对应原文：Bien . ¿ y qué regalo vas a abrir primero ?

贡献者

模型由cywang和patrickvonplaten贡献。

许可协议

官方许可参见此处

官方结果

参见UniSpeeech-L^{+} - es版：