🚀 微调版bert-base-uncased高级语义角色标注模型

本模型是基于英文通用命题库数据集，针对语义角色标注（SRL）任务对 bert-base-uncased 进行微调后的版本。它能有效解决语义角色标注任务中的角色识别问题，为自然语言处理中的语义理解提供了更精准的支持。

🚀 快速开始

本模型可对输入句子进行语义角色标注。使用示例请参考：https://github.com/dannashao/bertsrl/blob/main/Evaluation.ipynb

✨ 主要特性

• 该模型是 bert-base-uncased 在英文通用命题库数据集上针对语义角色标注（SRL）任务的微调版本。
• 在评估集上取得了良好的效果，损失为 0.0914，精确率为 0.8664，召回率为 0.8673，F1 值为 0.8669，准确率为 0.9812。
• 采用了与 NegBERT (Khandelwal, et al. 2020) 中 Augment 方法类似的策略，在谓词前添加特殊标记 ([V])。

📚 详细文档

模型描述

这个更高级的 SRL 模型采用了与 NegBERT (Khandelwal, et al. 2020) 中 Augment 方法类似的策略。即，在谓词前立即添加一个特殊标记 ([V])：

This [V] is a sentence.

请注意，特殊标记和谓词被视为一个整体。即，实际的句子形式如下：

'This' '[V] is' 'a' 'sentence' '.'

训练和评估数据

使用的是英文通用命题库 v1.0 数据。详情请见：https://github.com/UniversalPropositions/UP-1.0

训练过程

详情请见：https://github.com/chuqiaog/Advanced_NLP_group_1/blob/main/A3/A3_main.ipynb

训练超参数

训练过程中使用了以下超参数：

训练结果

框架版本

• Transformers 4.37.0
• Pytorch 2.0.1+cu117
• Datasets 2.16.1
• Tokenizers 0.15.1

📄 许可证

本模型采用 Apache-2.0 许可证。