许可证: mit
语言:

• 多语言
  标签:
• 零样本分类
• 文本分类
• pytorch
  评估指标:
• 准确率
• F1分数
  额外授权提示: 我们的模型仅供学术使用。如果您不属于学术机构，请说明使用我们模型的理由。请给我们几个工作日的时间手动审核申请。
  额外授权字段:
  姓名: 文本
  国家: 国家
  机构: 文本
  机构邮箱: 文本
  请说明您的学术用途: 文本

xlm-roberta-large-pooled-cap-minor

模型描述

这是一个基于xlm-roberta-large模型微调的版本，训练数据包含多语言（英语、丹麦语）文本，标注来自比较议程项目的次要主题代码。

如何使用该模型

from transformers import AutoTokenizer, pipeline  

tokenizer = AutoTokenizer.from_pretrained("xlm-roberta-large")  
pipe = pipeline(  
    model="poltextlab/xlm-roberta-large-pooled-cap-minor",  
    task="text-classification",  
    tokenizer=tokenizer,  
    use_fast=False,  
    token="<您的HF只读令牌>"  
)  

text = "我们将立即实施为期6个月的暂停措施，停止因财务原因关闭床位和病房，并设立一个独立的需求与设施审计。"  
pipe(text)  

受限访问

由于访问受限，加载模型时必须传递token参数。在早期版本的Transformers包中，可能需要使用use_auth_token参数替代。

模型性能

模型在15,349个英语测试样本（占英语数据的20%）上进行了评估。

• 准确率: 0.65
• 加权平均F1分数: 0.64

推理平台

该模型由CAP巴别塔机器使用，这是一个开源免费的自然语言处理工具，旨在简化和加速比较研究项目。

合作

通过扩展我们的训练集可以显著提升模型性能。我们欢迎通过poltextlab{at}poltextlab{dot}com或使用CAP巴别塔机器提交任何领域和语言的CAP编码语料库。

调试与问题

该架构使用sentencepiece分词器。在transformers==4.27版本之前运行模型时，需要手动安装该库。

如果使用from_pretrained()方法加载模型时遇到RuntimeError，添加参数ignore_mismatched_sizes=True可解决此问题。