语言: 挪威语
许可证: CC-BY-4.0
缩略图: https://raw.githubusercontent.com/NBAiLab/notram/master/images/nblogo_2.png
任务标签: 零样本分类
标签:

• nb-bert
• 零样本分类
• pytorch
• tensorflow
• 挪威语
• bert
  数据集:
• mnli
• multi_nli
• xnli
  小部件示例:
• 示例标题: 关于FHI的新闻文章
  文本: 挪威公共卫生研究所最乐观的估计是，所有成年人将在9月中旬前完成疫苗接种。
  候选标签: 健康, 政治, 体育, 宗教

1.0版本发布 (2021年3月11日)

基于挪威语机器翻译MNLI微调的NB-Bert基础模型

描述

创建优质分类器最有效的方法是对预训练模型进行特定任务的微调。然而，许多情况下这并不可行。Yin等人提出了一种巧妙方法，将预训练的MNLI模型用作零样本序列分类器。该技术通过将问题重构为MNLI假设来实现。例如，若需判断文本是否关于"体育"，只需陈述"此文本与体育相关"("Denne teksten handler om sport")。

当模型在40万规模的MNLI任务上微调后，常能解决此类分类问题。挪威语虽无同等规模的MNLI数据集，但我们使用机器翻译的原始MNLI集进行了训练。

模型测试

推荐使用NbAiLab Colab笔记本进行测试。

Hugging Face零样本分类流程

最便捷的体验方式是使用Hugging Face流程。请注意，使用挪威语假设模板会获得比默认英语模板更好的效果。

from transformers import pipeline  
classifier = pipeline("zero-shot-classification", model="NbAiLab/nb-bert-base-mnli")  

随后可将任意序列分类至指定类别：

sequence_to_classify = '挪威公共卫生研究所最乐观的估计是，所有成年人将在9月中旬前完成疫苗接种。'  
candidate_labels = ['政治', '健康', '体育', '宗教']  
hypothesis_template = '此示例涉及{}。'  
classifier(sequence_to_classify, candidate_labels, hypothesis_template=hypothesis_template, multi_class=True)  

# 输出结果:  
# {'labels': ['健康', '政治', '体育', '宗教'],  
# 'scores': [0.4210019111633301, 0.0674605593085289, 0.000840459018945694, 0.0007541406666859984],  
# 'sequence': '挪威公共卫生研究所最乐观的估计是，所有18岁以上成年人将在9月中旬前完成疫苗接种。'}  

更多信息

关于模型的详细信息，请访问：
https://github.com/NBAiLab/notram

该页面还提供了详细说明零样本分类流程使用方法的Colab笔记本。