Bartxiv

由 JustinDu 开发

BARTxiv是基于facebook/bart-large-cnn在arxiv-summarization数据集上微调的摘要生成模型，专注于学术论文摘要生成任务。

英语

下载量 43

发布时间 : 1/2/2023

模型介绍

内容详情

替代品

模型简介

该模型专门用于生成学术论文的摘要，在arxiv-summarization验证集上取得了rouge1 41.70和rouge2 15.13的成绩。

学术论文摘要优化

专门针对arXiv学术论文进行优化训练的摘要生成模型

基于BART架构

采用BART-large架构，具备强大的序列到序列生成能力

高效微调

在arxiv-summarization数据集上进行了9轮高效微调

学术论文摘要生成

长文本压缩

关键信息提取

学术研究

论文自动摘要

为arXiv等平台的学术论文生成简洁准确的摘要

在验证集上rouge1达到41.70

研究文献预处理

帮助研究人员快速了解论文核心内容

训练损失	轮次	步数	验证损失	Rouge1	Rouge2	Rougel	Rougelsum
1.24	1.0	1073	1.24	38.32	12.80	20.55	34.50
1.04	2.0	2146	1.04	39.65	13.74	21.28	35.83
0.979	3.0	3219	0.98	40.19	14.30	21.87	36.38
0.970	4.0	4292	0.97	40.87	14.44	22.14	36.89
0.918	5.0	5365	0.92	41.17	14.94	22.54	37.40
0.901	6.0	6438	0.90	41.02	14.65	22.46	37.05
0.889	7.0	7511	0.89	41.32	15.09	22.64	37.42
0.900	8.0	8584	0.90	41.23	15.02	22.67	37.28
0.869	9.0	9657	0.87	41.70	15.13	22.85	37.77