语言:

• 英文 标签:
• 毒性评论分类 许可证:
• 知识共享-非商业性使用-相同方式共享 许可证类型: OpenRAIL++ 基础模型:
• FacebookAI/roberta-large 数据集:
• google/jigsaw_toxicity_pred

毒性分类模型

本模型专为毒性评论分类任务训练。训练数据整合了Jigsaw三届竞赛的英文部分数据集（2018年竞赛、2019年竞赛、2020年竞赛），包含约200万条样本。我们将数据划分为两部分并基于RoBERTa模型（RoBERTa：一种鲁棒优化的BERT预训练方法）进行微调。分类器在首届Jigsaw竞赛测试集上表现优异，达到AUC-ROC 0.98和F1分数 0.76。

使用方式

import torch
from transformers import RobertaTokenizer, RobertaForSequenceClassification

tokenizer = RobertaTokenizer.from_pretrained('s-nlp/roberta_toxicity_classifier')
model = RobertaForSequenceClassification.from_pretrained('s-nlp/roberta_toxicity_classifier')

batch = tokenizer.encode("你真棒！", return_tensors="pt")

output = model(batch)
# 索引0表示中性评论，索引1表示毒性评论

引用规范

若需引用本工作，请使用以下文献格式：

@inproceedings{logacheva-etal-2022-paradetox,
    title = "{P}ara{D}etox：基于平行数据的去毒性处理",
    author = "洛加切娃, 瓦尔瓦拉  and
      杰缅季耶娃, 达琳娜  and
      乌斯季扬采夫, 谢尔盖  and
      莫斯科夫斯基, 丹尼尔  and
      戴尔, 大卫  and
      克罗托娃, 伊琳娜  and
      谢苗诺夫, 尼基塔  and
      潘琴科, 亚历山大",
    booktitle = "第60届计算语言学协会年会论文集（第一卷：长论文）",
    month = "5月",
    year = "2022",
    address = "爱尔兰都柏林",
    publisher = "计算语言学协会",
    url = "https://aclanthology.org/2022.acl-long.469",
    pages = "6804--6818",
    abstract = "我们提出了一种创新的平行数据收集流程用于去毒性任务。我们为超过10,000条英文毒性语句收集了非毒性改述版本，并证明该流程可用于蒸馏现有大规模改述语料库以获取毒性与中性语句对。我们发布了两套可用于训练去毒性模型的平行语料库，据我们所知，这是该任务领域首套平行数据集。我们详细描述了该流程，以便快速适配新语言或领域，从而促进新平行资源的快速开发。基于所收集数据，我们训练了多个去毒性模型，并与若干基线及最先进的无监督方法进行对比。通过自动评估和人工评估，所有基于平行数据训练的模型均大幅超越当前最优无监督模型，这表明我们的新数据集能显著提升去毒性系统性能。",
}

许可声明

本模型采用OpenRAIL++许可证授权，该许可支持服务于公共利益的各类技术（包括工业与学术领域）发展。