许可证：apache-2.0
标签：

• 训练生成
  模型索引：
• 名称：clinical-t5
  结果：[]
  数据集：
• AGBonnet/augmented-clinical-notes
  语言：
• 英语
  评估指标：
• rouge
  流水线标签：文本摘要

clinical-t5

这是一个基于谷歌T5-small模型（6000万参数检查点）微调的临床笔记摘要模型。
它使用Hugging Face平台上的augmented-clinical-notes数据集进行微调。

用途与限制

该模型为学习目的而创建。尽管在此笔记本中进行了简要评估，仍需进一步优化。

训练超参数

训练过程中使用的超参数如下：

• 学习率：2e-05
• 训练批次大小：16
• 评估批次大小：16
• 随机种子：42
• 优化器：Adam（β1=0.9，β2=0.999，ε=1e-08）
• 学习率调度器类型：线性
• 训练轮次：4

框架版本

• Transformers 4.30.0
• PyTorch 2.2.1+cu121
• Datasets 2.19.1
• Tokenizers 0.13.3