language:

• it tags:
• summarization datasets:
• ARTeLab/fanpage metrics:
• rouge base_model: gsarti/it5-base model-index:
• name: summarization_fanpage128 results: []

summarization_fanpage128

该模型是基于gsarti/it5-base在Fanpage数据集上微调而成的抽象摘要生成模型。

其性能指标如下：

• 损失值：1.5348
• Rouge1分数：34.1882
• Rouge2分数：15.7866
• Rougel分数：25.141
• Rougelsum分数：28.4882
• 生成文本平均长度：69.3041

使用方法

from transformers import T5Tokenizer, T5ForConditionalGeneration
tokenizer = T5Tokenizer.from_pretrained("ARTeLab/it5-summarization-fanpage-128")
model = T5ForConditionalGeneration.from_pretrained("ARTeLab/it5-summarization-fanpage-128")

训练超参数

训练过程中使用的超参数配置：

• 学习率：5e-05
• 训练批次大小：3
• 评估批次大小：3
• 随机种子：42
• 优化器：采用beta=(0.9,0.999)和epsilon=1e-08的Adam优化器
• 学习率调度器类型：线性
• 训练轮次：4.0

框架版本

• Transformers 4.12.0.dev0
• Pytorch 1.9.1+cu102
• Datasets 1.12.1
• Tokenizers 0.10.3

引用文献

更多细节和实验结果详见已发表论文

@Article{info13050228,
    作者 = {Landro, Nicola and Gallo, Ignazio and La Grassa, Riccardo and Federici, Edoardo},
    标题 = {面向意大利语抽象文本摘要的两个新数据集},
    期刊 = {Information},
    卷号 = {13},
    年份 = {2022},
    期号 = {5},
    文章编号 = {228},
    网址 = {https://www.mdpi.com/2078-2489/13/5/228},
    ISSN = {2078-2489},
    摘要 = {文本摘要旨在从给定文本中生成包含关键信息的简短摘要。针对意大利语等低资源语言缺乏抽象摘要数据的问题，我们提出了两个原创数据集：一个采集自意大利新闻网站的多句摘要及对应文章，另一个通过机器翻译西班牙语摘要数据集获得。这两个数据集是目前意大利语领域仅有的可用资源。为评估数据集质量，我们使用T5-base和mBART模型进行训练，均取得良好效果。通过与自动翻译数据集训练结果的对比实验表明，基于本论文提出数据集训练的模型生成的摘要质量显著优于自动翻译方案。},
    DOI = {10.3390/info13050228}
}