语言:

• 英文 基础模型:
• google/flan-t5-base 任务标签: 摘要生成 库名称: transformers 许可证: mit 模型索引:
  • 名称: flan-t5-titlegen-springer 结果:
    • 任务: 类型: 抽象摘要生成 指标:
      • 类型: ROUGE_1 值: 0.6852
      • 类型: ROUGE_2 值: 0.5385
      • 类型: ROUGE_L 值: 0.6411
      • 类型: ROUGE_Lsum 值: 0.6411
      • 类型: 精确率 值: 0.9383
      • 类型: 召回率 值: 0.9222
      • 类型: F1分数 值: 0.9300

模型详情

模型描述

该模型是基于google/flan-t5-base微调而成的版本，专门用于将科学摘要精炼为简洁标题的抽象摘要生成任务。其训练数据来源于Springer期刊出版物，并经过筛选仅包含与机器学习相关的研究。通过利用FLAN-T5的指令遵循能力，该模型能够生成精确且上下文相关的标题。

若能在更广泛的多学科数据集上进行进一步微调，将有助于提升其在其他研究领域的泛化能力和准确性。

• 开发者: tiam4tt, HTThuanHcmus
• 模型类型: 语言模型
• 支持语言(NLP): 英文
• 许可证: MIT
• 微调基础模型: google/flan-t5-base

项目仓库

• 代码库: tiam4tt/TextMining_TitleGeneration

使用方式

from transformers import AutoModelForSeq2SeqLM, AutoTokenizer

model = AutoModelForSeq2SeqLM.from_pretrained("tiam4tt/flan-t5-titlegen-springer")
tokenizer = AutoTokenizer.from_pretrained("tiam4tt/flan-t5-titlegen-springer")

abstract = "迁移学习已成为深度学习中的关键技术，使模型能够利用预训练网络的知识在新任务上获得更好的性能。在本研究中，我们提出了一种针对卷积神经网络(CNN)的优化微调策略，在保持高精度的同时减少了训练时间。在CIFAR-10上的实验表明，与标准微调方法相比效率提高了15%，证明了我们方法的有效性。"

inputs = tokenizer(abstract, return_tensors="pt", padding=True, truncation=True)
outputs = model.generate(**inputs, max_new_tokens=32)

title = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(title)

直接使用与下游应用

该模型可在更广泛的跨学科数据集上进行训练，以生成超出机器学习领域更精确且上下文相关的标题。

非适用场景

将该模型用于不相关的任务，如新闻文章摘要、创意写作生成或处理来自无关领域(如化学、法律或医学)的高度技术性摘要，可能会导致输出不准确或质量低下。若要在机器学习文献之外实现有效泛化，需要在更广泛的数据集上进行微调。

训练数据

springer-journal-final