许可证：Apache-2.0
标签：

• 令牌分类
  数据集：
• conll2003
  评估指标：
• 精确率
• 召回率
• F1值
• 准确率

模型索引：

• 名称：distilroberta-base-ner-conll2003
  结果：
  • 任务：
    类型：令牌分类
    名称：令牌分类
    数据集：
    名称：conll2003
    类型：conll2003
    指标：
    • 类型：精确率
      值：0.9492923423001218
      名称：精确率
    • 类型：召回率
      值：0.9565545901020023
      名称：召回率
    • 类型：F1值
      值：0.9529096297690173
      名称：F1
    • 类型：准确率
      值：0.9883096560400111
      名称：准确率
  • 任务：
    类型：令牌分类
    名称：令牌分类
    数据集：
    名称：conll2003
    类型：conll2003
    配置：conll2003
    拆分：验证集
    指标：
    • 类型：准确率
      值：0.9883249976987512
      名称：准确率
      已验证：true
      验证令牌：eyJhbGciOiJFZERTQSIsInR5cCI6IkpXVCJ9.eyJoYXNoIjoiZTEwNzFlMjk0ZDY4NTg2MGQxMDZkM2IyZjdjNDEwYmNiMWY1MWZiNzg1ZjMyZTlkYzQ0MmVmNTZkMjEyMGQ1YiIsInZlcnNpb24iOjF9.zxapWje7kbauQ5-VDNbY487JB5wkN4XqgaLwoX1cSmNfgpp-MPCjqrocxayb1kImbN8CvzOpU1aSfvRfyd5fAw
    • 类型：精确率
      值：0.9906910190038265
      名称：精确率
      已验证：true
      验证令牌：eyJhbGciOiJFZERTQSIsInR5cCI6IkpXVCJ9.eyJoYXNoIjoiMWRjMjYyOGQ2MGMwOGE1ODQyNDU1MzZiNWU4MGUzYWVlNjQ3NDhjZDRlZTE0NDlmMGJjZjliZjU2ZmFiZmZiYyIsInZlcnNpb24iOjF9.G_QY9mDkIkllmWPsgmUoVgs-R9XjfYkdJMS8hcyGM-7NXsbigUgZZnhfD0TjDak62UoEplqwSX5r0S4xKPdxBQ
    • 类型：召回率
      值：0.9916635820847483
      名称：召回率
      已验证：true
      验证令牌：eyJhbGciOiJFZERTQSIsInR5cCI6IkpXVCJ9.eyJoYXNoIjoiODE0MDE5ZWMzNTM5MTA1NTI4YzNhNzI2NzVjODIzZWY0OWE2ODJiN2FiNmVkNGVkMTI2ODZiOGEwNTEzNzk2MCIsInZlcnNpb24iOjF9.zenVqRfs8TrKoiIu_QXQJtHyj3dEH97ZDLxUn_UJ2tdW36hpBflgKCJNBvFFkra7bS4cNRfIkwxxCUMWH1ptBg
    • 类型：F1值
      值：0.9911770619696786
      名称：F1
      已验证：true
      验证令牌：eyJhbGciOiJFZERTQSIsInR5cCI6IkpXVCJ9.eyJoYXNoIjoiZWZjY2NiNjZlNDFiODQ3M2JkOWJjNzRlY2FmNjMwNGFkNzFmNTBkOGQ5YTcyZjUzNjAwNDAxMThiNTE5ZThiNiIsInZlcnNpb24iOjF9.c9aD9hycCS-WBaLUb8NKzIpd2LE6xfJrhg3fL9_832RiMq5gcMs9qtarP3Jbo6WbPs_WThr_v4gn7K4Ti-0-CA
    • 类型：损失值
      值：0.05638007074594498
      名称：损失值
      已验证：true
      验证令牌：eyJhbGciOiJFZERTQSIsInR5cCI6IkpXVCJ9.eyJoYXNoIjoiNGM3NTQ5ODBhMDcyNjBjMGUxMDgzYjI2NjEwNjM0MjU0MjEzMTRmODA2MjMwZWU1YTQ3OWU2YjUzNTliZTkwMSIsInZlcnNpb24iOjF9.03OwbxrdKm-vg6ia5CBYdEaSCuRbT0pLoEvwpd4NtjydVzo5wzS-pWgY6vH4PlI0ZCTBY0Po0IZSsJulWJttDg

distilroberta-base-ner-conll2003

此模型是基于distilroberta-base在conll2003数据集上微调的版本。

评估F1分数：95.29（CoNLL-03）
测试F1分数：90.74（CoNLL-03）

评估F1分数：95.29（CoNLL++ / 修正版CoNLL-03）
测试F1分数：92.23（CoNLL++ / 修正版CoNLL-03）

模型使用方式

from transformers import AutoTokenizer, AutoModelForTokenClassification  
from transformers import pipeline  

tokenizer = AutoTokenizer.from_pretrained("philschmid/distilroberta-base-ner-conll2003")  
model = AutoModelForTokenClassification.from_pretrained("philschmid/distilroberta-base-ner-conll2003")  

nlp = pipeline("ner", model=model, tokenizer=tokenizer, grouped_entities=True)  
example = "我的名字是Philipp，住在德国"  

nlp(example)  

训练过程

训练超参数

训练期间使用的超参数如下：

• 学习率：4.9902376275441704e-05
• 训练批次大小：32
• 评估批次大小：16
• 随机种子：42
• 优化器：Adam（beta1=0.9，beta2=0.999，epsilon=1e-08）
• 学习率调度器类型：线性
• 训练轮数：6.0
• 混合精度训练：原生AMP

训练结果

CoNLL2003

在评估集上的表现：

• 损失值：0.0583
• 精确率：0.9493
• 召回率：0.9566
• F1值：0.9529
• 准确率：0.9883

在测试集上的表现：

• 损失值：0.2025
• 精确率：0.8999
• 召回率：0.915
• F1值：0.9074
• 准确率：0.9741

CoNLL++ / 修正版CoNLL2003

在评估集上的表现：

• 损失值：0.0567
• 精确率：0.9493
• 召回率：0.9566
• F1值：0.9529
• 准确率：0.9883

在测试集上的表现：

• 损失值：0.1359
• 精确率：0.92
• 召回率：0.9245
• F1值：0.9223
• 准确率：0.9785

框架版本

• Transformers 4.6.1
• PyTorch 1.8.1+cu101
• Datasets 1.6.2
• Tokenizers 0.10.2