许可证：apache-2.0
标签：

• 训练生成
  数据集：
• summarize_from_feedback
  评估指标：
• rouge
  模型索引：
• 名称：flan-t5-small-finetuned-openai-summarize_from_feedback
  结果：
  • 任务：
    名称：序列到序列语言建模
    类型：文本生成
    数据集：
    名称：summarize_from_feedback
    类型：summarize_from_feedback
    配置：comparisons
    拆分：train
    参数：comparisons
    指标：
    • 名称：Rouge1
      类型：rouge
      值：27.2966

基于OpenAI summarize_from_feedback微调的Flan-T5（小规模）摘要模型

本模型是在summarize_from_feedback数据集上对google/flan-t5-small进行微调的版本。
在评估集上达到以下结果：

• 损失值：2.1488
• Rouge1：27.2966
• Rouge2：9.5886
• Rougel：22.1999
• Rougelsum：23.6317
• 生成长度：18.9310

模型描述

（需补充更多信息）

预期用途与限制

（需补充更多信息）

训练与评估数据

（需补充更多信息）

训练流程

训练超参数

训练过程中使用的超参数如下：

• 学习率：5e-05
• 训练批次大小：32
• 评估批次大小：64
• 随机种子：42
• 优化器：Adam（β1=0.9，β2=0.999，ε=1e-08）
• 学习率调度器类型：线性
• 训练轮次：6

训练结果

框架版本

• Transformers 4.25.1
• Pytorch 1.13.0+cu116
• Datasets 2.8.0
• Tokenizers 0.13.2