许可协议: mit
标签:

• 源自keras回调生成
  基础模型: facebook/bart-large-cnn
  模型索引:
• 名称: bart-large-finetuned-filtered-spotify-podcast-summ
  结果: []

针对过滤后Spotify播客摘要优化的BART大型模型

本模型是基于facebook/bart-large-cnn在Spotify播客数据集上微调的版本。欢迎查看本项目的GitHub仓库。

训练期间取得以下结果:

• 训练损失: 2.2967
• 验证损失: 2.8316
• 训练轮次: 2

用途与限制

本模型专用于自动生成播客摘要。输入播客文字稿后，目标是生成用户在选择是否收听播客时可能阅读的简短文本摘要。摘要应准确传达播客内容，具备良好可读性，且长度适合在手机屏幕上快速浏览。

训练与评估数据

我们的解决方案开发了提取模块来选择文字稿中的关键片段，作为摘要生成器的输入。通过对创作者提供的描述进行大量预处理，筛选出适合监督模型训练的数据子集。

过滤后的数据集被划分为69,336/7,705集的训练集/开发集。测试集包含1,027集（实际使用1,025集，其中2集缺少播客描述）。

使用方法

可按以下方式使用模型进行摘要生成:

from transformers import pipeline  
summarizer = pipeline("summarization", model="gmurro/bart-large-finetuned-filtered-spotify-podcast-summ", tokenizer="gmurro/bart-large-finetuned-filtered-spotify-podcast-summ")  
summary = summarizer(podcast_transcript, min_length=39, max_length=250)  
print(summary[0]['summary_text'])  

训练超参数

训练期间使用以下超参数:

optimizer: {'name': 'AdamWeightDecay', 'learning_rate': 2e-05, 'decay': 0.0, 'beta_1': 0.9, 'beta_2': 0.999, 'epsilon': 1e-07, 'amsgrad': False, 'weight_decay_rate': 0.01}

- ```python  
training_precision: float32  

训练结果

框架版本

• Transformers 4.19.4
• TensorFlow 2.9.1
• Datasets 2.3.1
• Tokenizers 0.12.1

作者