language: zh datasets:

• conll2003 widget:
• text: "我叫jean-baptiste，住在蒙特利尔"
• text: "我叫clara，住在加利福尼亚州伯克利市"
• text: "我叫wolfgang，住在柏林"

roberta-large-ner-english：基于roberta-large微调的英文命名实体识别模型

简介

[roberta-large-ner-english]是基于roberta-large模型在conll2003数据集上微调的英文命名实体识别模型。该模型在电子邮件/聊天数据上进行了验证，尤其在此类数据上表现优于其他模型。特别值得注意的是，该模型对非首字母大写的实体识别效果更佳。

训练数据

训练数据分类如下：

为简化处理，原始conll2003数据中的B-或I-前缀已被移除。使用原始conll2003的训练集和测试集进行训练，并用"验证集"进行验证，最终数据集规模为：

使用指南（HuggingFace版）

加载模型及子词分词器：

from transformers import AutoTokenizer, AutoModelForTokenClassification

tokenizer = AutoTokenizer.from_pretrained("Jean-Baptiste/roberta-large-ner-english")
model = AutoModelForTokenClassification.from_pretrained("Jean-Baptiste/roberta-large-ner-english")


##### 处理文本示例（维基百科案例）

from transformers import pipeline

nlp = pipeline('ner', model=model, tokenizer=tokenizer, aggregation_strategy="simple")
nlp("苹果公司由史蒂夫·乔布斯、史蒂夫·沃兹尼亚克和罗纳德·韦恩于1976年创立，旨在开发和销售沃兹尼亚克的Apple I个人电脑")


[{'entity_group': 'ORG',
  'score': 0.99381506,
  'word': ' 苹果',
  'start': 0,
  'end': 5},
 {'entity_group': 'PER',
  'score': 0.99970853,
  'word': ' 史蒂夫·乔布斯',
  'start': 29,
  'end': 39},
 {'entity_group': 'PER',
  'score': 0.99981767,
  'word': ' 史蒂夫·沃兹尼亚克',
  'start': 41,
  'end': 54},
 {'entity_group': 'PER',
  'score': 0.99956465,
  'word': ' 罗纳德·韦恩',
  'start': 59,
  'end': 71},
 {'entity_group': 'PER',
  'score': 0.9997918,
  'word': ' 沃兹尼亚克',
  'start': 92,
  'end': 99},
 {'entity_group': 'MISC',
  'score': 0.99956393,
  'word': ' Apple I',
  'start': 102,
  'end': 109}]

模型性能

基于conll2003验证集计算的token级预测性能：

在私有数据集（邮件/聊天/非正式对话）上的单词级预测表现：

作为对比，同私有数据集上Spacy（en_core_web_trf-3.2.0）的表现：