Rubert Base Srl Seqlabeling

由 Rexhaif 开发

基于ruBert-base微调的俄语语义角色标注模型，用于识别句子中的谓词及其相关论元角色

序列标注

Transformers

#俄语语义角色标注 #高精度谓词识别 #施事者-经历者分析

下载量 124

发布时间 : 3/2/2022

模型介绍

内容详情

替代品

模型简介

该模型是基于ruBert-base微调的序列标注模型，专门用于俄语语义角色标注(Semantic Role Labeling, SRL)任务，能够识别句子中的谓词并标注施事者、经历者等语义角色。

模型特点

高精度语义角色识别

在施事者和经历者识别上达到较高F1值(0.84-0.95)

多角色标注能力

可同时识别施事者、经历者、工具等多种语义角色

优化的训练策略

采用余弦学习率调度和预热策略，训练过程稳定

模型能力

俄语文本分析

语义角色标注

谓词识别

论元角色分类

使用案例

自然语言处理

俄语句法分析

用于俄语文本的深层语义分析

可准确识别句子中的动作执行者和承受者

信息提取系统

从俄语文本中提取结构化事件信息

可识别事件参与者和相关工具

标签：

由训练器自动生成模型索引：
名称：rubert-base-srl-seqlabeling 结果：[]

rubert-base-srl-seqlabeling

该模型是基于./ruBert-base/在未知数据集上微调得到的版本。其在评估集上的表现如下：

损失：0.1723
施事者精确率：0.8539
施事者召回率：0.8352
施事者F1值：0.8444
施事者数量：91
经历者精确率：0.9259
经历者召回率：0.9740
经历者F1值：0.9494
经历者数量：77
工具精确率：0.375
工具召回率：1.0
工具F1值：0.5455
工具数量：3
其他精确率：0.0
其他召回率：0.0
其他F1值：0.0
其他数量：1
谓词精确率：0.9352
谓词召回率：0.9902
谓词F1值：0.9619
谓词数量：102
总体精确率：0.8916
总体召回率：0.9307
总体F1值：0.9107
总体准确率：0.9667

模型描述

需要更多信息

预期用途与限制

需要更多信息

训练与评估数据

需要更多信息

训练过程

训练超参数

训练过程中使用了以下超参数：

学习率：5e-05
训练批次大小：16
评估批次大小：8
随机种子：42
优化器：Adam，参数β=(0.9,0.98)，ε=1e-06
学习率调度器类型：余弦
学习率预热比例：0.06
训练轮数：10.0

训练结果

训练损失	轮次	步数	验证损失	施事者精确率	施事者召回率	施事者F1	施事者数量	经历者精确率	经历者召回率	经历者F1	经历者数量	工具精确率	工具召回率	工具F1	工具数量	其他数量	谓词精确率	谓词召回率	谓词F1	谓词数量	总体精确率	总体召回率	总体F1	总体准确率
0.2552	1.0	56	0.3471	0.8841	0.6703	0.7625	91	0.8421	0.8312	0.8366	77	0.0	0.0	0.0	3	1	0.9259	0.9804	0.9524	102	0.8893	0.8212	0.8539	0.9203
0.2385	2.0	112	0.1608	0.9103	0.7802	0.8402	91	0.9375	0.9740	0.9554	77	0.2857	0.6667	0.4	3	1	0.9519	0.9706	0.9612	102	0.9182	0.9015	0.9098	0.9554
0.0367	3.0	168	0.1311	0.8902	0.8022	0.8439	91	0.9375	0.9740	0.9554	77	0.4286	1.0	0.6	3	1	0.9709	0.9804	0.9756	102	0.9228	0.9161	0.9194	0.9673
0.0494	4.0	224	0.1507	0.7812	0.8242	0.8021	91	0.9241	0.9481	0.9359	77	0.4286	1.0	0.6	3	1	0.9524	0.9804	0.9662	102	0.8746	0.9161	0.8948	0.9637
0.0699	5.0	280	0.1830	0.8276	0.7912	0.8090	91	0.8941	0.9870	0.9383	77	0.375	1.0	0.5455	3	1	0.9352	0.9902	0.9619	102	0.875	0.9197	0.8968	0.9560
0.0352	6.0	336	0.1994	0.7857	0.8462	0.8148	91	0.9048	0.9870	0.9441	77	0.375	1.0	0.5455	3	1	0.9266	0.9902	0.9573	102	0.8595	0.9380	0.8970	0.9572
0.0186	7.0	392	0.1657	0.8652	0.8462	0.8556	91	0.9146	0.9740	0.9434	77	0.375	1.0	0.5455	3	1	0.9352	0.9902	0.9619	102	0.8920	0.9343	0.9127	0.9673
0.0052	8.0	448	0.1716	0.8556	0.8462	0.8508	91	0.9259	0.9740	0.9494	77	0.375	1.0	0.5455	3	1	0.9352	0.9902	0.9619	102	0.8920	0.9343	0.9127	0.9673
0.0094	9.0	504	0.1715	0.8444	0.8352	0.8398	91	0.9259	0.9740	0.9494	77	0.4286	1.0	0.6	3	1	0.9352	0.9902	0.9619	102	0.8916	0.9307	0.9107	0.9667
0.0078	10.0	560	0.1723	0.8539	0.8352	0.8444	91	0.9259	0.9740	0.9494	77	0.375	1.0	0.5455	3	1	0.9352	0.9902	0.9619	102	0.8916	0.9307	0.9107	0.9667