标签:
- flair
- 词性标注
- 序列标注模型
语言: 英文
数据集:
- ontonotes
小部件示例:
- 文本: "I love Berlin."
Flair中的英语词性标注(快速模型)
这是Flair自带的英语快速词性标注模型。
F1分数: 98.10 (基于Ontonotes数据集)
可预测细粒度词性标签:
标签 |
含义 |
ADD |
电子邮件地址 |
AFX |
词缀 |
CC |
并列连词 |
CD |
基数词 |
DT |
限定词 |
EX |
存在性there |
FW |
外来词 |
HYPH |
连字符 |
IN |
介词或从属连词 |
JJ |
形容词 |
JJR |
形容词比较级 |
JJS |
形容词最高级 |
LS |
列表项标记 |
MD |
情态动词 |
NFP |
多余标点 |
NN |
名词单数或不可数 |
NNP |
专有名词单数 |
NNPS |
专有名词复数 |
NNS |
名词复数 |
PDT |
前位限定词 |
POS |
所有格结尾 |
PRP |
人称代词 |
PRP$ |
物主代词 |
RB |
副词 |
RBR |
副词比较级 |
RBS |
副词最高级 |
RP |
小品词 |
SYM |
符号 |
TO |
to不定式 |
UH |
感叹词 |
VB |
动词原形 |
VBD |
动词过去式 |
VBG |
动名词/现在分词 |
VBN |
过去分词 |
VBP |
动词非第三人称单数现在时 |
VBZ |
动词第三人称单数现在时 |
WDT |
疑问限定词 |
WP |
疑问代词 |
WP$ |
疑问物主代词 |
WRB |
疑问副词 |
XX |
未知词性 |
基于Flair嵌入和LSTM-CRF架构。
演示:如何在Flair中使用
需要安装: Flair (pip install flair
)
from flair.data import Sentence
from flair.models import SequenceTagger
tagger = SequenceTagger.load("flair/pos-english-fast")
sentence = Sentence("I love Berlin.")
tagger.predict(sentence)
print(sentence)
print('发现以下词性标注:')
for entity in sentence.get_spans('pos'):
print(entity)
输出结果如下:
Span [1]: "I" [− 标签: PRP (1.0)]
Span [2]: "love" [− 标签: VBP (0.9998)]
Span [3]: "Berlin" [− 标签: NNP (0.9999)]
Span [4]: "." [− 标签: . (0.9998)]
在句子"I love Berlin"中:
- "I"被标注为人称代词(PRP)
- "love"被标注为动词(VBP)
- "Berlin"被标注为专有名词(NNP)
训练:模型训练脚本
使用以下Flair脚本训练本模型:
from flair.data import Corpus
from flair.datasets import ColumnCorpus
from flair.embeddings import WordEmbeddings, StackedEmbeddings, FlairEmbeddings
corpus: Corpus = ColumnCorpus(
"resources/tasks/onto-ner",
column_format={0: "text", 1: "pos", 2: "upos", 3: "ner"},
tag_to_bioes="ner",
)
tag_type = 'pos'
tag_dictionary = corpus.make_tag_dictionary(tag_type=tag_type)
embedding_types = [
FlairEmbeddings('news-forward'),
FlairEmbeddings('news-backward'),
]
embeddings = StackedEmbeddings(embeddings=embedding_types)
from flair.models import SequenceTagger
tagger = SequenceTagger(hidden_size=256,
embeddings=embeddings,
tag_dictionary=tag_dictionary,
tag_type=tag_type)
from flair.trainers import ModelTrainer
trainer = ModelTrainer(tagger, corpus)
trainer.train('resources/taggers/pos-english-fast',
train_with_dev=True,
max_epochs=150)
引用
使用本模型时请引用以下论文:
@inproceedings{akbik2018coling,
title={Contextual String Embeddings for Sequence Labeling},
author={Akbik, Alan and Blythe, Duncan and Vollgraf, Roland},
booktitle = {{COLING} 2018, 27th International Conference on Computational Linguistics},
pages = {1638--1649},
year = {2018}
}
问题反馈?
Flair问题追踪器详见此处。