语言: 西班牙语
标签:

• 零样本分类
• 自然语言推理
• PyTorch

数据集:

• XNLI

管道标签: 零样本分类
许可证: Apache-2.0

示例组件:

• 文本: "作者在其逝世50周年之际，被塑造成那个世纪的伟人之一"
  候选标签: "文化, 社会, 经济, 健康, 体育"

零样本SELECTRA：基于SELECTRA的零样本分类器

零样本SELECTRA是在XNLI数据集西班牙语部分微调的SELECTRA模型。您可通过Hugging Face的零样本管道进行零样本分类。

相较于我们之前基于BETO的零样本分类器，SELECTRA版本更加轻量化。如指标部分所示，小版本（参数量减少5倍）性能略低，而中版本（参数量减少3倍）超越了基于BETO的分类器。

使用方式

from transformers import pipeline  
classifier = pipeline("zero-shot-classification",   
                     model="Recognai/zeroshot_selectra_medium")  

classifier(  
    "作者在其逝世50周年之际，被塑造成那个世纪的伟人之一",  
    candidate_labels=["文化", "社会", "经济", "健康", "体育"],  
    hypothesis_template="此示例属于{}。"  
)  
"""输出  
{'sequence': '作者在其逝世50周年之际，被塑造成那个世纪的伟人之一',  
 'labels': ['社会', '文化', '经济', '健康', '体育'],  
 'scores': [0.6450043320655823,  
          0.16710571944713593,  
          0.08507631719112396,  
          0.0759836807847023,  
          0.026829993352293968]}  
"""  

hypothesis_template参数需使用西班牙语。右侧组件中该参数默认为英文模板"此示例属于{}。"，因此结果会有所不同。

演示与教程

我们使用免费开源工具Rubrix（用于探索、标注和监控NLP数据的工具）创建了基础教程。

教程展示了如何评估该分类器在西班牙语新闻分类中的表现，以及如何构建训练集来训练监督分类器（若需获得更精确结果或持续改进模型时很有用）。

教程链接在此。

下方视频展示了标注过程中的预测效果（可见几乎所有示例的预测都接近正确）：

性能指标

*采用零样本学习(ZSL)评估

• XNLI: 准确率指模型在训练集微调后，在XNLI数据集测试集的表现
• MLSUM: 选取MLSUM数据集测试集，对5个选定标签的摘要进行分类。详见评估笔记本

训练过程

完整细节请参阅训练笔记本。

作者

• David Fidalgo (GitHub)
• Daniel Vila (GitHub)
• Francisco Aranda (GitHub)
• Javier Lopez (GitHub)