标签:

• 训练生成 指标:
• 精确率
• 召回率
• F1值
• 准确率 模型索引:
• 名称: KoELECTRA-small-v3-modu-ner 结果: [] 语言:
• 韩语 管道标签: 令牌分类 小部件:
• 文本: "请带我去首尔站。" 示例标题: "示例1"
• 文本: "把空调温度调高3度。" 示例标题: "示例2"
• 文本: "搜索IU的歌曲。" 示例标题: "示例3"

KoELECTRA-small-v3-modu-ner

该模型是基于monologg/koelectra-small-v3-discriminator在未知数据集上微调的版本。 在评估集上取得了以下结果:

• 损失: 0.1431
• 精确率: 0.8232
• 召回率: 0.8449
• F1值: 0.8339
• 准确率: 0.9628

模型描述

标注系统: BIO系统

• B-(开始): 实体名称开始时
• I-(内部): 标记位于实体名称中间时
• O(外部): 标记不属于实体名称时

遵循韩国信息通信技术协会(TTA)大类标准的15种标签集

预期用途与限制

使用方法

您可以使用Transformers的pipeline进行NER任务。

from transformers import AutoTokenizer, AutoModelForTokenClassification
from transformers import pipeline

tokenizer = AutoTokenizer.from_pretrained("Leo97/KoELECTRA-small-v3-modu-ner")
model = AutoModelForTokenClassification.from_pretrained("Leo97/KoELECTRA-small-v3-modu-ner")
ner = pipeline("ner", model=model, tokenizer=tokenizer)

example = "请带我去首尔站。"
ner_results = ner(example)
print(ner_results)

训练与评估数据

命名实体识别(NER)模型训练数据集

• 文化体育观光部 > 国立国语院 > 所有人的语料库 > 命名实体分析语料库 2021
• https://corpus.korean.go.kr/request/reausetMain.do

训练过程

训练超参数

训练过程中使用了以下超参数:

• 学习率: 5e-05
• 训练批次大小: 64
• 评估批次大小: 64
• 随机种子: 42
• 优化器: Adam，参数为betas=(0.9,0.999)和epsilon=1e-08
• 学习率调度器类型: 线性
• 学习率预热步数: 15151
• 训练轮数: 20
• 混合精度训练: Native AMP

训练结果

框架版本

• Transformers 4.27.4
• Pytorch 2.0.0+cu118
• Datasets 2.11.0
• Tokenizers 0.13.3