许可证: mit
数据集:

• xnli
  语言:
• 西班牙语
  评估指标:
• 准确率
  任务标签: 零样本分类

XLM-ROBERTA-BASE-XNLI-ES

模型描述

该模型基于XLM-Roberta-base模型，并继续在多种语言的Twitter大型语料库上进行预训练。其开发遵循了类似Tweet Eval框架提出的策略。模型进一步在XNLI训练数据集的西班牙语部分上进行了微调。

预期用途

该模型旨在用于仇恨言论检测领域的零样本文本分类任务，专注于西班牙语，因其微调数据为该语言。由于基础模型在100种不同语言上进行了预训练，在其他语言中也展现出了一定效果。具体语言列表请参阅XLM Roberta论文。

使用零样本分类流程

from transformers import pipeline  
classifier = pipeline("zero-shot-classification",  
                      model="morit/spanish_xlm_xnli")  

加载模型后，可对上述语言中的序列进行分类。需指定待分类文本及对应假设模板，以匹配候选标签进行分类。

sequence_to_classify = "我认为莱昂内尔·梅西是世界上最好的足球运动员。"  

# 可指定候选标签及假设模板：  
candidate_labels = ["政治", "足球"]  
hypothesis_template = "此文本内容关于{}"  

# 使用提供的信息进行分类  
classifier(sequence_to_classify, candidate_labels, hypothesis_template=hypothesis_template)  

# 输出  
#{'sequence': '我认为莱昂内尔·梅西是世界上最好的足球运动员。',  
# 'labels': ['足球', '政治'],  
# 'scores': [0.813454806804657, 0.18654517829418182]}  

训练过程

该模型首先在100种语言上预训练，随后基于1.98亿条多语言推文进行训练（详见原论文）。进一步在西班牙语XNLI训练集（MNLI数据集的机器翻译版本）上微调，共训练5个周期，每周期结束后评估验证集性能以选择最佳模型。

• 学习率: 2e-5
• 批次大小: 32
• 最大序列长度: 128

使用NVIDIA GeForce RTX 3090显卡，训练耗时1小时47分钟。

评估

最佳模型在XNLI测试集上的评估结果如下：

预测准确率 = 79.20%