许可证:Apache-2.0
语言:
- 德语
库名称:transformers
任务标签:自动语音识别
模型索引:
- 名称:Florian Zimmermeister @primeLine 开发的 whisper-large-v3-turbo-german
结果:
- 任务:
类型:自动语音识别
名称:语音识别
数据集:
名称:德语 ASR 混合数据
类型:flozi00/asr-german-mixed
指标:
- 类型:WER(词错误率)
值:2.628%
名称:测试 WER
数据集:
- flozi00/asr-german-mixed
- flozi00/asr-german-mixed-evals
基础模型:
- primeline/whisper-large-v3-german
重要说明:
本模型仅为 CTranslate2 转换版本,适用于 faster-whisper 等兼容 CTranslate 的框架。
关于微调方法或所用数据集的任何问题,请参考原始仓库 primeline/whisper-large-v3-turbo-german。
概述
本模型基于 Whisper Large v3,专为德语语音识别微调优化。Whisper 是 OpenAI 开发的强大语音识别平台。此模型针对德语语音处理和识别进行了专门优化。
应用场景
本模型适用于以下领域:
- 德语语音转录
- 语音命令与控制
- 德语视频自动字幕生成
- 德语语音搜索查询
- 文字处理软件的听写功能
模型系列
模型 |
参数量 |
链接 |
Whisper large v3 german |
1.54B |
链接 |
Whisper large v3 turbo german |
809M |
链接 |
Distil-whisper large v3 german |
756M |
链接 |
tiny whisper |
37.8M |
链接 |
评估 - 词错误率
数据集 |
openai-whisper-large-v3-turbo |
openai-whisper-large-v3 |
primeline-whisper-large-v3-german |
nyrahealth-CrisperWhisper (large) |
primeline-whisper-large-v3-turbo-german |
Tuda-De |
8.300 |
7.884 |
7.711 |
5.148 |
6.441 |
common_voice_19_0 |
3.849 |
3.484 |
3.215 |
1.927 |
3.200 |
multilingual librispeech |
3.203 |
2.832 |
2.129 |
2.815 |
2.070 |
综合 |
3.649 |
3.279 |
2.734 |
2.662 |
2.628 |
评估数据和代码详见此处
训练数据
本模型的训练数据包含大量来自不同来源的德语语音,经过精心筛选和处理以优化识别性能。
训练过程
模型训练采用以下超参数:
- 批量大小:12288
- 训练轮次:3
- 学习率:1e-6
- 数据增强:无
- 优化器:Ademamix
使用方法
import torch
from transformers import AutoModelForSpeechSeq2Seq, AutoProcessor, pipeline
from datasets import load_dataset
device = "cuda:0" if torch.cuda.is_available() else "cpu"
torch_dtype = torch.float16 if torch.cuda.is_available() else torch.float32
model_id = "primeline/whisper-large-v3-turbo-german"
model = AutoModelForSpeechSeq2Seq.from_pretrained(
model_id, torch_dtype=torch_dtype, low_cpu_mem_usage=True, use_safetensors=True
)
model.to(device)
processor = AutoProcessor.from_pretrained(model_id)
pipe = pipeline(
"automatic-speech-recognition",
model=model,
tokenizer=processor.tokenizer,
feature_extractor=processor.feature_extractor,
max_new_tokens=128,
chunk_length_s=30,
batch_size=16,
return_timestamps=True,
torch_dtype=torch_dtype,
device=device,
)
dataset = load_dataset("distil-whisper/librispeech_long", "clean", split="validation")
sample = dataset[0]["audio"]
result = pipe(sample)
print(result["text"])

德国 AI 基础设施合作伙伴
为您提供深度学习、机器学习与高性能计算的强大 AI 基础设施,专为 AI 训练和推理优化。
模型作者:Florian Zimmermeister