标签:

• pyannote
• pyannote音频
• pyannote音频管道
• 音频
• 语音
• 说话人
• 说话人分割
• 说话人变更检测
• 语音活动检测
• 重叠语音检测 数据集:
• ami
• dihard
• voxconverse
• aishell
• repere
• voxceleb 许可证: mit

🎹 说话人分割

基于pyannote.audio 2.0版本：查看安装说明。

快速开始

# 从Huggingface Hub加载管道
from pyannote.audio import Pipeline
pipeline = Pipeline.from_pretrained("pyannote/speaker-diarization@2022.07")

# 将管道应用于音频文件
diarization = pipeline("audio.wav")

# 使用RTTM格式将分割结果保存到磁盘
with open("audio.rttm", "w") as rttm:
    diarization.write_rttm(rttm)

高级用法

如果已知说话人数量，可以在参数字典中包含num_speakers参数：

handler = EndpointHandler()
diarization = handler({"inputs": base64_audio, "parameters": {"num_speakers": 2}})

也可以使用min_speakers和max_speakers参数提供说话人数量的下限和/或上限：

handler = EndpointHandler()
diarization = handler({"inputs": base64_audio, "parameters": {"min_speakers": 2, "max_speakers": 5}})

如果想尝试不同的管道超参数，可以进行调整。例如，通过增加segmentation_onset阈值来使用更激进的语音活动检测：

hparams = handler.pipeline.parameters(instantiated=True)
hparams["segmentation_onset"] += 0.1
handler.pipeline.instantiate(hparams)

要应用更新后的处理器进行API推理，可以处理说话人数量，使用以下代码：

from typing import Dict
from pyannote.audio import Pipeline
import torch 
import base64
import numpy as np

SAMPLE_RATE = 16000

class EndpointHandler():
    def __init__(self, path=""):
        # 加载模型
        self.pipeline = Pipeline.from_pretrained("KIFF/pyannote-speaker-diarization-endpoint")

    def __call__(self, data: Dict[str, bytes]) -> Dict[str, str]:
        """
        参数:
            data (:obj:):
                包含反序列化的音频文件字节
        返回:
            A :obj:`dict`:. base64编码的图像
        """
        # 处理输入
        inputs = data.pop("inputs", data)
        parameters = data.pop("parameters", None) #  min_speakers=2, max_speakers=5

        # 解码base64音频数据
        audio_data = base64.b64decode(inputs)
        audio_nparray = np.frombuffer(audio_data, dtype=np.int16)

        # 准备pynannote输入
        audio_tensor= torch.from_numpy(audio_nparray).float().unsqueeze(0)
        pyannote_input = {"waveform": audio_tensor, "sample_rate": SAMPLE_RATE}
        
        # 应用预训练管道
        # 传递包含所有kwargs的输入
        if parameters is not None:
            diarization = self.pipeline(pyannote_input, **parameters)
        else:
            diarization = self.pipeline(pyannote_input)

        # 后处理预测结果
        processed_diarization = [
            {"label": str(label), "start": str(segment.start), "stop": str(segment.end)}
            for segment, _, label in diarization.itertracks(yield_label=True)
        ]
        
        return {"diarization": processed_diarization}

基准测试

实时因子

使用一块Nvidia Tesla V100 SXM2 GPU（用于神经推理部分）和一块Intel Cascade Lake 6248 CPU（用于聚类部分），实时因子约为5%。

换句话说，处理一小时对话大约需要3分钟。

准确率

该管道在多个数据集上进行了基准测试。处理完全自动化：

• 无需手动语音活动检测（如文献中有时所做）
• 无需手动指定说话人数量（尽管可以提供给管道）
• 无需微调内部模型或调整管道超参数以适应每个数据集

...使用最严格的说话人分割错误率（DER）设置（在本文中称为“Full”）：

• 无容忍区间
• 评估重叠语音

支持

商业咨询和科学合作，请联系我。
技术问题和错误报告，请查看pyannote.audio的Github仓库。

引用

@inproceedings{Bredin2021,
  Title = {{End-to-end speaker segmentation for overlap-aware resegmentation}},
  Author = {{Bredin}, Herv{\'e} and {Laurent}, Antoine},
  Booktitle = {Proc. Interspeech 2021},
  Address = {Brno, Czech Republic},
  Month = {August},
  Year = {2021},
}

@inproceedings{Bredin2020,
  Title = {{pyannote.audio: neural building blocks for speaker diarization}},
  Author = {{Bredin}, Herv{\'e} and {Yin}, Ruiqing and {Coria}, Juan Manuel and {Gelly}, Gregory and {Korshunov}, Pavel and {Lavechin}, Marvin and {Fustes}, Diego and {Titeux}, Hadrien and {Bouaziz}, Wassim and {Gill}, Marie-Philippe},
  Booktitle = {ICASSP 2020, IEEE International Conference on Acoustics, Speech, and Signal Processing},
  Address = {Barcelona, Spain},
  Month = {May},
  Year = {2020},
}