许可证：apache-2.0
基础模型：google/t5-efficient-tiny
标签：

• generated_from_trainer
  数据集：
• billsum
  评估指标：
• rouge
  模型索引：
• 名称：billsum_tiny_summarization
  结果：
  • 任务：
    名称：序列到序列语言建模
    类型：文本摘要
    数据集：
    名称：billsum
    类型：billsum
    配置：默认
    拆分：ca_test
    参数：默认
    评估指标：
    • 名称：Rouge1
      类型：rouge
      值：0.1503
      管道标签：summarization

billsum_tiny_summarization

该模型是基于google/t5-efficient-tiny在billsum数据集上微调的版本。
在评估集上取得了以下结果：

• 损失：3.5889
• Rouge1：0.1503
• Rouge2：0.0412
• Rougel：0.1244
• Rougelsum：0.1244
• 生成长度：19.0

模型描述

（待补充详细信息）

预期用途与限制

（待补充详细信息）

训练与评估数据

（待补充详细信息）

训练流程

训练超参数

训练过程中使用的超参数如下：

• 学习率：2e-05
• 训练批次大小：16
• 评估批次大小：16
• 随机种子：42
• 优化器：Adam（β1=0.9，β2=0.999，ε=1e-08）
• 学习率调度器类型：线性
• 训练轮次：4

训练结果

框架版本

• Transformers 4.33.3
• PyTorch 2.0.1+cu118
• Datasets 2.14.5
• Tokenizers 0.13.3