数据集:

• JulesBelveze/tldr_news 评估指标:
• rouge 管道标签:
• summarization 语言:
• en 标签:
• tldr

flan-t5-base-tldr_news

一个针对TLDR（太长不读）新闻文章进行文本摘要和标题生成的微调T5模型。

简介

flan-t5-base-tldr_news是一个在TLDR新闻文章数据集上微调的深度学习模型。该模型专门设计用于执行文本摘要和标题生成任务。

T5架构是一种基于Transformer的神经网络架构，已在多种自然语言处理任务中取得最先进的结果。通过在TLDR新闻文章数据集上对T5架构进行微调，我们的目标是创建一个能够为新闻文章生成简洁且信息丰富的摘要和标题的模型。

任务

该模型的主要目标是执行两个自然语言处理任务：文本摘要和标题生成。文本摘要涉及生成较长文本的缩短版本，保留最重要的信息和观点。而标题生成则是为给定文本生成一个准确且简洁地捕捉文本主题或主要思想的标题。

架构

flan-t5-base-tldr_news使用了T5架构，该架构已被证明对多种自然语言处理任务有效。T5架构由编码器和解码器组成，经过训练后可以根据输入文本生成摘要或标题。

模型大小

该模型拥有247,577,856个参数，代表模型中可调节权重的数量。模型的大小会影响训练和推理时的速度及内存需求，以及模型在特定任务上的表现。

训练数据

该模型是在TLDR新闻文章数据集上进行微调的。选择该数据集是因为它包含大量被压缩成简短摘要的新闻文章，非常适合用于训练文本摘要模型。训练数据经过预处理，包括分词等标准预处理步骤，以便为模型输入做好准备。

评估指标

为了评估模型在文本摘要和标题生成任务上的表现，我们使用了ROUGE指标。ROUGE（面向召回率的摘要评估辅助工具）衡量生成文本与参考文本（在本例中是原始新闻文章或其摘要）之间的重叠程度。ROUGE指标在自然语言处理评估中常用，是衡量生成摘要和标题质量的好方法。

下表展示了模型在测试集上的ROUGE分数，这很好地反映了其在文本摘要和标题生成任务上的整体表现：

需要注意的是，这些分数仅代表模型在特定测试集上的表现快照，模型的实际表现可能会因输入文本、训练数据质量以及模型的具体应用场景而有所不同。

如何通过API使用

from transformers import pipeline

summarizer = pipeline(
              'summarization',
              'ybagoury/flan-t5-base-tldr_news',
              )
raw_text = """ 此处输入文本... """
results = summarizer(raw_text)
print(results)