语言:

• 多语言
• 葡萄牙语(pt)
• 英语(en) 标签:
• xlm-roberta-base
• 语义角色标注
• 微调 许可证: apache-2.0 数据集:
• PropBank.Br
• CoNLL-2012 评估指标:
• F1值

基于XLM-R的英语语义角色标注微调模型

模型描述

该模型是在英语CoNLL格式的OntoNotes v5.0语义角色标注数据上对xlm-roberta-base进行微调的结果。这是一个项目的一部分，该项目还产生了以下模型：

• liaad/srl-pt_bertimbau-base
• liaad/srl-pt_bertimbau-large
• liaad/srl-pt_xlmr-base
• liaad/srl-pt_xlmr-large
• liaad/srl-pt_mbert-base
• liaad/srl-en_xlmr-base
• liaad/srl-en_xlmr-large
• liaad/srl-en_mbert-base
• liaad/srl-enpt_xlmr-base
• liaad/srl-enpt_xlmr-large
• liaad/srl-enpt_mbert-base
• liaad/ud_srl-pt_bertimbau-large
• liaad/ud_srl-pt_xlmr-large
• liaad/ud_srl-enpt_xlmr-large

更多信息，请参阅相关文章（见下文BibTeX条目和引用信息）以及项目GitHub。

预期用途与限制

使用方法

使用该模型的transformers部分：

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("liaad/srl-en_xlmr-base")
model = AutoModel.from_pretrained("liaad/srl-en_xlmr-base")

如需使用完整的SRL模型（transformers部分加解码层），请参考项目GitHub。

限制与偏差

• 该模型不包含Tensorflow版本。这是因为模型中的"type_vocab_size"被修改（从1改为2），因此无法轻松转换为Tensorflow。
• 模型仅训练了5个epoch。
• 英语数据经过预处理以匹配葡萄牙语数据，因此在角色分配上存在差异，部分角色被从数据中移除。

训练过程

模型在CoNLL-2012数据集上训练，预处理以匹配葡萄牙语PropBank.Br数据。测试数据包括PropBank.Br数据集及一个较小的意见数据集"Buscapé"。更多信息请参阅相关文章（见下文BibTeX条目和引用信息）及项目GitHub。

评估结果

BibTeX条目及引用信息

@misc{oliveira2021transformers,
      title={Transformers and Transfer Learning for Improving Portuguese Semantic Role Labeling}, 
      author={Sofia Oliveira and Daniel Loureiro and Alípio Jorge},
      year={2021},
      eprint={2101.01213},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}