language:

• 意大利语 tags:
• 摘要生成 datasets:
• ARTeLab/mlsum-it metrics:
• rouge base_model: gsarti/it5-base model-index:
• name: summarization_mlsum results: []

summarization_mlsum

该模型是基于gsarti/it5-base在MLSum-it数据集上微调而成的抽象摘要生成模型。

其性能指标如下：

• 损失值：2.0190
• Rouge1分数：19.3739
• Rouge2分数：5.9753
• Rougel分数：16.691
• Rougelsum分数：16.7862
• 生成文本平均长度：32.5268

使用方法

from transformers import T5Tokenizer, T5ForConditionalGeneration
tokenizer = T5Tokenizer.from_pretrained("ARTeLab/it5-summarization-mlsum")
model = T5ForConditionalGeneration.from_pretrained("ARTeLab/it5-summarization-mlsum")

训练超参数

训练过程中采用以下超参数配置：

• 学习率：5e-05
• 训练批次大小：6
• 评估批次大小：6
• 随机种子：42
• 优化器：采用beta=(0.9,0.999)和epsilon=1e-08的Adam优化器
• 学习率调度器类型：线性
• 训练轮次：4.0

框架版本

• Transformers 4.12.0.dev0
• Pytorch 1.9.1+cu102
• Datasets 1.12.1
• Tokenizers 0.10.3

引用文献

更多细节和实验结果详见已发表论文

@Article{info13050228,
    作者 = {Landro, Nicola and Gallo, Ignazio and La Grassa, Riccardo and Federici, Edoardo},
    标题 = {面向意大利语抽象文本摘要的两个新数据集},
    期刊 = {Information},
    卷号 = {13},
    年份 = {2022},
    期号 = {5},
    文章编号 = {228},
    网址 = {https://www.mdpi.com/2078-2489/13/5/228},
    ISSN = {2078-2489},
    摘要 = {文本摘要旨在生成包含原文相关要点的简短摘要。针对意大利语等低资源语言缺乏抽象摘要数据的问题，我们提出了两个新原创数据集：一个采集自意大利新闻网站的多句摘要及对应文章，另一个通过机器翻译西班牙语摘要数据集获得。这两个数据集是目前意大利语领域仅有的可用资源。为评估数据集质量，我们使用T5-base和mBART模型进行训练，均取得良好效果。通过与自动翻译数据集训练结果的对比实验表明，基于本论文提出数据集训练的模型具有显著优势。},
    DOI = {10.3390/info13050228}
}