license: apache-2.0 tags:

• 从训练器生成 datasets:
• 基于反馈的摘要 metrics:
• rouge model-index:
• name: flan-t5-large-微调-openai-summarize_from_feedback results:
  • task: name: 序列到序列语言建模 type: 文本到文本生成 dataset: name: 基于反馈的摘要 type: 基于反馈的摘要 config: 比较 split: 训练集 args: 比较 metrics:
    • name: Rouge1 type: rouge value: 30.2401
    • name: Rouge2 type: rouge value: 11.4916
    • name: RougeL type: rouge value: 24.6485
    • name: RougeLSum type: rouge value: 26.1801 pipeline_tag: 摘要

flan-t5-large-微调-openai-summarize_from_feedback

该模型是基于google/flan-t5-large在基于反馈的摘要数据集上微调的版本。 在评估集上取得了以下结果：

• 损失：2.3118
• Rouge1：30.2401
• Rouge2：11.4916
• Rougel：24.6485
• Rougelsum：26.1801
• 生成长度：18.8428

模型描述

需要更多信息

预期用途与限制

需要更多信息

训练与评估数据

需要更多信息

训练过程

训练超参数

训练过程中使用了以下超参数：

• 学习率：5e-05
• 训练批次大小：16
• 评估批次大小：32
• 随机种子：42
• 优化器：Adam，参数betas=(0.9,0.999)，epsilon=1e-08
• 学习率调度器类型：线性
• 训练轮数：6

训练结果

查看Tensorboard记录

引用

@misc {manuel_romero_2023,
	author       = { {Manuel Romero} },
	title        = { flan-t5-large-微调-openai-summarize_from_feedback (版本 51666f9) },
	year         = 2023,
	url          = { https://huggingface.co/mrm8488/flan-t5-large-finetuned-openai-summarize_from_feedback },
	doi          = { 10.57967/hf/0266 },
	publisher    = { Hugging Face }
}

框架版本

• Transformers 4.25.1
• Pytorch 1.13.0+cu116
• Datasets 2.8.0
• Tokenizers 0.13.2