语言: tr 数据集:

• 通用语音 指标:
• 词错误率(WER) 标签:
• 音频
• 自动语音识别
• 语音

许可证: apache-2.0 模型索引:

• 名称: Davut Emre TASAR的XLSR Wav2Vec2土耳其语模型 结果:
  • 任务: 名称: 语音识别 类型: 自动语音识别 数据集: 名称: 通用语音土耳其语版 类型: common_voice 参数: tr 指标:
    • 名称: 测试WER 类型: wer

wav2vec-tr-lite-AG

使用方法

该模型可以直接使用（无需语言模型），如下所示：

import torch
import torchaudio
from datasets import load_dataset
from transformers import Wav2Vec2ForCTC, Wav2Vec2Processor

test_dataset = load_dataset("common_voice", "tr", split="test[:2%]") 

processor = Wav2Vec2Processor.from_pretrained("emre/wav2vec-tr-lite-AG")
model = Wav2Vec2ForCTC.from_pretrained("emre/wav2vec-tr-lite-AG")

resampler = torchaudio.transforms.Resample(48_000, 16_000)

### 训练超参数
训练过程中使用了以下超参数：
- 学习率: 0.00005
- 训练批次大小: 2
- 评估批次大小: 8
- 随机种子: 42
- 分布式类型: 多GPU
- 设备数量: 2
- 梯度累积步数: 8
- 总训练批次大小: 32
- 总评估批次大小: 16
- 优化器: Adam，参数为betas=(0.9,0.999)和epsilon=1e-08
- 学习率调度器类型: 线性
- 学习率预热步数: 500
- 训练轮数: 30.0
- 混合精度训练: 原生AMP
### 训练结果
| 训练损失 | 轮次 | 步数 | 验证损失 | WER    |
|:-------------:|:-----:|:----:|:---------------:|:------:|
| 0.4388        | 3.7   | 400  | 1.366          | 0.9701 |
| 0.3766        | 7.4   | 800  | 0.4914          | 0.5374 |
| 0.2295        | 11.11 | 1200 | 0.3934          | 0.4125 |
| 0.1121        | 14.81 | 1600 | 0.3264          | 0.2904 |
| 0.1473        | 18.51 | 2000 | 0.3103          | 0.2671 |
| 0.1013        | 22.22 | 2400 | 0.2589          | 0.2324 |
| 0.0704        | 25.92 | 2800 | 0.2826          | 0.2339 |
| 0.0537        | 29.63 | 3200 | 0.2704          | 0.2309 |
### 框架版本
- Transformers 4.12.0.dev0
- Pytorch 1.8.1
- Datasets 1.14.1.dev0
- Tokenizers 0.10.3