🚀 语音安全分类模型

本项目推出了一个大型分类模型，该模型基于人工精心筛选的真实世界数据集进行训练，可作为推进毒性检测与分类研究的新基准。此模型从WavLM base plus的原始权重开始，使用2374小时的语音聊天音频片段进行微调，以实现多标签分类。这些音频片段通过我们博客文章中描述的合成数据管道自动标注。模型的单个输出可以有多个标签。

✨ 主要特性

• 基于人工筛选的真实世界数据集训练，可作为毒性检测与分类研究的新基准。
• 从WavLM base plus的原始权重开始微调，使用2374小时语音聊天音频片段进行多标签分类。
• 输出一个n×6的张量，推断标签包括Profanity、DatingAndSexting、Racist、Bullying、Other、NoViolation。
• 在包含9795个样本的人工标注数据集上进行评估。
• 若对所有类别设置相同阈值并将模型视为二元分类器，二元平均精度可达94.48%。

📦 安装指南

推理文件的依赖项可以按以下方式安装：

pip install -r requirements.txt

💻 使用示例

基础用法

推理文件包含用于预处理音频文件以进行正确推理的实用辅助函数。要运行推理文件，请执行以下命令：

python inference.py --audio_file <your audio file path> --model_path <path to Huggingface model>

你可以从此处的模型发布页面下载模型权重，也可以从HuggingFace的roblox/voice-safety-classifier获取。如果未指定model_path，模型将直接从HuggingFace加载。

🔧 技术细节

模型从WavLM base plus的原始权重开始，使用2374小时的语音聊天音频片段进行微调，以实现多标签分类。音频片段通过我们博客文章中描述的合成数据管道自动标注。模型输出一个n×6的输出张量，推断标签为Profanity、DatingAndSexting、Racist、Bullying、Other、NoViolation。Other包含低发生率的政策违规类别，如毒品和酒精或自残等，这些类别合并为一个类别。

我们在一个包含人工标注标签的数据集上评估了该模型，该数据集共有9795个样本，类别分布如下。请注意，我们在这个评估数据集中未包含“other”类别。

如果我们对所有类别设置相同的阈值，并将模型视为所有4个毒性类别（Profanity、DatingAndSexting、Racist、Bullying）的二元分类器，我们得到的二元平均精度为94.48%。精确召回曲线如下所示。

📄 许可证

本项目采用CC BY-SA 3.0许可证。