许可证: mit 基础模型: xlm-roberta-base 标签:

• 训练器生成 数据集:
• xtreme 指标:
• f1 模型索引:
• 名称: multilingual-xlm-roberta-for-ner 结果:
  • 任务: 名称: 标记分类 类型: token-classification 数据集: 名称: xtreme 类型: xtreme 配置: PAN-X.de 拆分: validation 参数: PAN-X.de 指标:
    • 名称: F1 类型: f1 值: 0.8607623700505596

multilingual-xlm-roberta-for-ner

模型描述

xlm-roberta-base-multilingual-cased-ner 是一个基于微调XLM-RoBERTa基础模型的命名实体识别模型。
它经过训练，能够识别三种类型的实体：地点（LOC）、组织（ORG）和人物（PER）。
具体来说，该模型是一个XLMRoreberta-base-multilingual-cased模型，在10种高资源语言的聚合数据上进行了微调。

使用方法

您可以使用Transformers的pipeline进行NER任务。

from transformers import AutoTokenizer, AutoModelForTokenClassification
from transformers import pipeline

tokenizer = AutoTokenizer.from_pretrained("Tirendaz/roberta-base-NER")
model = AutoModelForTokenClassification.from_pretrained("Tirendaz/roberta-base-NER")

nlp = pipeline("ner", model=model, tokenizer=tokenizer)
example = "My name is Wolfgang and I live in Berlin"

ner_results = nlp(example)
print(ner_results)

训练超参数

训练过程中使用了以下超参数：

• 学习率: 5e-05
• 训练批次大小: 48
• 评估批次大小: 48
• 随机种子: 42
• 优化器: Adam，参数为betas=(0.9,0.999)和epsilon=1e-08
• 学习率调度器类型: linear
• 训练轮数: 3

训练结果

框架版本

• Transformers 4.33.0
• Pytorch 2.0.0
• Datasets 2.1.0
• Tokenizers 0.13.3