license: apache-2.0 language:

• zh metrics:
• accuracy
• cer pipeline_tag: automatic-speech-recognition tags:
• Paraformer
• FunASR
• ASR

简介

Paraformer 是一种创新的非自回归端到端语音识别模型，相比传统自回归模型具有显著优势。与同类模型不同，Paraformer能够并行生成整句目标文本，特别适合利用GPU进行并行推理。这一特性大幅提升了推理效率，可将语音识别云服务的机器成本降低近10倍。此外，Paraformer在工业级数据上能达到与自回归模型相同的性能表现。

本仓库展示了如何结合funasr_onnx运行时来使用Paraformer。基础模型源自FunASR，该模型基于6万小时普通话数据集训练而成。值得注意的是，Paraformer在SpeechIO榜单上斩获榜首，彰显了其在语音识别领域的卓越能力。

我们已发布众多工业级模型，涵盖语音识别、语音活动检测、标点恢复、说话人验证、说话人日志化以及时间戳预测（强制对齐）等领域。了解更多模型详情，请参阅FunASR文档。如果您有兴趣将前沿AI技术应用于语音相关项目，欢迎探索FunASR提供的可能性。

安装funasr_onnx

pip install -U funasr_onnx
# 国内用户可使用以下命令加速安装：
# pip install -U funasr_onnx -i https://mirror.sjtu.edu.cn/pypi/web/simple

下载模型

git clone https://huggingface.co/funasr/paraformer-large

运行时推理

语音识别

Paraformer

from funasr_onnx import Paraformer

model_dir = "./paraformer-large"
model = Paraformer(model_dir, batch_size=1, quantize=True)

wav_path = ['./funasr/paraformer-large/asr_example.wav']

result = model(wav_path)
print(result)

• model_dir: 模型路径，需包含model.onnx、config.yaml和am.mvn文件
• batch_size: 默认为1，推理时的批处理大小
• device_id: 默认为-1（使用CPU推理）。如需GPU推理，请设置为gpu_id（需确保已安装onnxruntime-gpu）
• quantize: 默认为False，加载model_dir中的model.onnx模型。若设为True，则加载model_dir中的model_quant.onnx量化模型
• intra_op_num_threads: 默认为4，设置CPU内部并行运算的线程数

输入支持格式：str, np.ndarray, List[str]的wav文件

输出：List[str]类型的识别结果