许可证：apache-2.0
标签：

• 训练生成
  数据集：
• pub_med_summarization_dataset
  评估指标：
• rouge
  模型索引：
• 名称：bart-base-finetuned-pubmed
  结果：
  • 任务：
    名称：序列到序列语言建模
    类型：文本生成
    数据集：
    名称：pub_med_summarization_dataset
    类型：pub_med_summarization_dataset
    参数：文档
    评估指标：
    • 名称：Rouge1
      类型：rouge
      值：9.3963

bart-base微调版-pubmed

该模型是基于facebook/bart-base在pub_med_summarization_dataset数据集上微调的版本。
在评估集上取得如下结果：

• 损失值：2.0277
• Rouge1：9.3963
• Rouge2：4.0473
• Rougel：8.4526
• Rougelsum：8.9659
• 生成长度：20.0

模型描述

需补充更多信息

预期用途与限制

需补充更多信息

训练与评估数据

需补充更多信息

训练流程

训练超参数

训练过程中使用的超参数如下：

• 学习率：2e-05
• 训练批次大小：2
• 评估批次大小：2
• 随机种子：42
• 优化器：Adam（β1=0.9，β2=0.999，ε=1e-08）
• 学习率调度器类型：线性
• 训练轮次：5
• 混合精度训练：原生AMP

训练结果

框架版本

• Transformers 4.16.2
• Pytorch 1.10.0+cu111
• Datasets 1.18.3
• Tokenizers 0.11.6