许可证：apache-2.0
标签：

• 训练生成
  数据集：
• xsum
  评估指标：
• rouge
  模型索引：
• 名称：t5-small-text_summarization
  结果：
  • 任务：
    名称：序列到序列语言建模
    类型：文本生成
    数据集：
    名称：xsum
    类型：xsum
    参数：默认
    评估指标：
    • 名称：Rouge1
      类型：rouge
      值：28.6917

t5-small-文本摘要模型

该模型是基于t5-small在xsum数据集上微调的版本。
在评估集上取得了以下结果：

• 损失值：2.4591
• Rouge1：28.6917
• Rouge2：7.976
• Rougel：22.6383
• Rougelsum：22.6353
• 生成长度：18.8185

模型描述

（待补充更多信息）

预期用途与限制

（待补充更多信息）

训练与评估数据

（待补充更多信息）

训练流程

训练超参数

训练过程中使用的超参数如下：

• 学习率：2e-05
• 训练批次大小：25
• 评估批次大小：25
• 随机种子：42
• 优化器：Adam（β1=0.9，β2=0.999，ε=1e-08）
• 学习率调度器类型：线性
• 训练轮次：1
• 混合精度训练：原生AMP

训练结果

框架版本

• Transformers 4.12.3
• PyTorch 1.10.0+cu111
• Datasets 1.15.1
• Tokenizers 0.10.3