许可协议：apache-2.0
支持语言：

• 英语
  库名称：transformers

该模型作为MilaNLP团队参与EDOS共享任务的解决方案被训练并发布。
更多细节请查阅论文《MilaNLP在SemEval-2023任务10中的表现：通过集成领域适应与正则化预训练语言模型实现稳健的性别歧视检测》。

适配详情

我们对预训练的DeBERTa模型进行了领域适配，采用标准掩码语言建模（MLM）方法，数据来源于任务组织方提供的未标注Reddit语料库（100万条帖子）（Kirk等人，2023）以及Gab仇恨言论语料库（8.7万条帖子）（Kennedy等人，2022）。合并并打乱两个数据集后，我们保留5%作为验证数据，并按数据来源分层抽样。最终训练数据集包含约2000万词。

完整细节请参阅论文。

引用

若使用本模型，请考虑引用：

@inproceedings{cercas-curry-etal-2023-milanlp,  
    title = "{M}ila{NLP}在{S}em{E}val-2023任务10中的表现：通过集成领域适应与正则化预训练语言模型实现稳健的性别歧视检测",  
    author = "Cercas Curry, Amanda 和  
      Attanasio, Giuseppe 与  
      Nozza, Debora 及  
      Hovy, Dirk",  
    booktitle = "第十七届国际语义评测研讨会论文集(SemEval-2023)",  
    month = "7月",  
    year = "2023",  
    address = "加拿大多伦多",  
    publisher = "计算语言学协会",  
    url = "https://aclanthology.org/2023.semeval-1.285",  
    doi = "10.18653/v1/2023.semeval-1.285",  
    pages = "2067--2074",  
    abstract = "本文介绍了MilaNLP团队为可解释在线性别歧视检测(EDOS)共享任务设计的系统。我们提出集成建模方法，结合了采用领域适应目标和标准微调的不同分类器。实验表明，集成模型比单一模型更稳健，且正则化模型能生成更'保守'的预测，缓解词汇过拟合效应。但错误分析也发现，许多误判样本存在争议，这引发了对仇恨言论数据客观标注可行性的质疑。",  
}