R

Roberta Base RTE

由 textattack 开发
基于roberta-base架构,通过TextAttack框架在GLUE数据集上微调的序列分类模型
下载量 29
发布时间 : 3/2/2022
模型介绍
内容详情
替代品

模型简介

该模型是用于文本序列分类任务的预训练模型,特别适用于自然语言理解任务。通过对抗训练框架TextAttack进行微调,提高了模型在分类任务中的鲁棒性。

模型特点

对抗训练增强
通过TextAttack框架进行对抗训练,提高了模型对对抗样本的鲁棒性
GLUE数据集微调
在通用语言理解评估基准(GLUE)上进行微调,适用于多种自然语言理解任务
高效训练配置
采用2e-05的学习率和128的最大序列长度进行优化,在5个周期内达到最佳性能

模型能力

文本分类
自然语言理解
序列标注

使用案例

文本分析
情感分析
对文本内容进行情感倾向分类
在验证集上达到79.42%的准确率
主题分类
将文本分类到预定义的主题类别中