标签:

• flair
• 词元分类
• 序列标注模型 语言:
• 英语
• 德语
• 荷兰语
• 西班牙语
• 多语言 数据集:
• conll2003 小部件示例:
• 文本: "乔治·华盛顿去了华盛顿"

Flair中的四语言命名实体识别（英语、德语、荷兰语和西班牙语）

这是Flair内置的标准4类NER模型，适用于4种CoNLL-03语言。对法语等相关语言也有一定效果。

F1分数: 92.16 (CoNLL-03英语), 87.33 (修订版CoNLL-03德语), 88.96 (CoNLL-03荷兰语), 86.65 (CoNLL-03西班牙语)

可预测4种标签:

基于Flair嵌入和LSTM-CRF架构。

演示：如何在Flair中使用

需要安装: Flair (pip install flair)

from flair.data import Sentence
from flair.models import SequenceTagger

# 加载标注器
tagger = SequenceTagger.load("flair/ner-multi")

# 创建任意四种语言的示例句子
sentence = Sentence("乔治·华盛顿去了华盛顿")

# 预测NER标签
tagger.predict(sentence)

# 打印句子
print(sentence)

# 打印预测的NER实体范围
print('发现以下NER标签:')
# 遍历实体并打印
for entity in sentence.get_spans('ner'):
    print(entity)

输出结果如下：

Span [1,2]: "乔治·华盛顿"   [− 标签: PER (0.9977)]
Span [5]: "华盛顿"   [− 标签: LOC (0.9895)]

在句子"乔治·华盛顿去了华盛顿"中，识别出"乔治·华盛顿"（标记为人物）和"华盛顿"（标记为地点）两个实体。

训练：模型训练脚本

使用以下Flair脚本训练该模型：

from flair.data import Corpus
from flair.datasets import CONLL_03, CONLL_03_GERMAN, CONLL_03_DUTCH, CONLL_03_SPANISH
from flair.embeddings import WordEmbeddings, StackedEmbeddings, FlairEmbeddings

# 1. 获取多语言语料库
corpus: Corpus = MultiCorpus([
    CONLL_03(),         # 英语语料
    CONLL_03_GERMAN(),  # 德语语料
    CONLL_03_DUTCH(),   # 荷兰语语料
    CONLL_03_SPANISH(), # 西班牙语语料
    ])

# 2. 要预测的标签类型
tag_type = 'ner'

# 3. 从语料库创建标签字典
tag_dictionary = corpus.make_tag_dictionary(tag_type=tag_type)

# 4. 初始化每个使用的嵌入
embedding_types = [
    # GloVe嵌入
    WordEmbeddings('glove'),

    # FastText嵌入
    WordEmbeddings('de'),

    # 上下文字符串嵌入（前向）
    FlairEmbeddings('multi-forward'),

    # 上下文字符串嵌入（后向）
    FlairEmbeddings('multi-backward'),
]

# 嵌入栈包含Flair和GloVe嵌入
embeddings = StackedEmbeddings(embeddings=embedding_types)

# 5. 初始化序列标注器
from flair.models import SequenceTagger

tagger = SequenceTagger(hidden_size=256,
                        embeddings=embeddings,
                        tag_dictionary=tag_dictionary,
                        tag_type=tag_type)

# 6. 初始化训练器
from flair.trainers import ModelTrainer

trainer = ModelTrainer(tagger, corpus)

# 7. 运行训练
trainer.train('resources/taggers/ner-multi',
              train_with_dev=True,
              max_epochs=150)