基于RoBERTa-large的英语命名实体识别模型：roberta-large-ner-english

模型简介

[roberta-large-ner-english]是基于RoBERTa-large模型在conll2003数据集上微调的英语命名实体识别模型。该模型在电子邮件/聊天数据上进行了验证，尤其在此类数据上表现优于其他模型。特别值得注意的是，该模型对非首字母大写的实体识别效果更佳。

训练数据

训练数据分类标准如下：

为简化处理，原始conll2003数据中的B-或I-前缀已被移除。使用原始conll2003的训练集和测试集进行训练，"validation"数据集用于验证，最终数据集规模为：

使用指南

加载模型及子词分词器：

from transformers import AutoTokenizer, AutoModelForTokenClassification

tokenizer = AutoTokenizer.from_pretrained("Jean-Baptiste/roberta-large-ner-english")
model = AutoModelForTokenClassification.from_pretrained("Jean-Baptiste/roberta-large-ner-english")


##### 处理文本示例（维基百科案例）

from transformers import pipeline

nlp = pipeline('ner', model=model, tokenizer=tokenizer, aggregation_strategy="simple")
nlp("Apple was founded in 1976 by Steve Jobs, Steve Wozniak and Ronald Wayne to develop and sell Wozniak's Apple I personal computer")


[{'entity_group': 'ORG',
  'score': 0.99381506,
  'word': ' Apple',
  'start': 0,
  'end': 5},
 {'entity_group': 'PER',
  'score': 0.99970853,
  'word': ' Steve Jobs',
  'start': 29,
  'end': 39},
 {'entity_group': 'PER',
  'score': 0.99981767,
  'word': ' Steve Wozniak',
  'start': 41,
  'end': 54},
 {'entity_group': 'PER',
  'score': 0.99956465,
  'word': ' Ronald Wayne',
  'start': 59,
  'end': 71},
 {'entity_group': 'PER',
  'score': 0.9997918,
  'word': ' Wozniak',
  'start': 92,
  'end': 99},
 {'entity_group': 'MISC',
  'score': 0.99956393,
  'word': ' Apple I',
  'start': 102,
  'end': 109}]

模型性能

基于conll2003验证数据集计算的token预测性能：

在私有数据集（邮件/聊天/非正式对话）上的单词预测表现：

作为对比，同私有数据集上Spacy(en_core_web_trf-3.2.0)的表现：

注：如需了解本模型如何应用于电子邮件签名检测的LSTM模型训练，可参阅以下短文： https://medium.com/@jean-baptiste.polle/lstm-model-for-email-signature-detection-8e990384fefa