pipeline_tag: 文本摘要 datasets:

• samsum language:
• en metrics:
• rouge library_name: transformers widget:
• text: | 约翰：嘿！我一直在考虑买一台PlayStation 5。你觉得值得吗？ 丹：不知道啊兄弟。你确定有足够空闲时间玩吗？ 约翰：是啊，所以我才犹豫要不要买。最近工作太忙，不确定能玩得尽兴。
• text: | 莎拉：你觉得投资比特币是好主意吗？ 艾米丽：我持怀疑态度。市场波动太大，可能会亏钱。 莎拉：确实。但潜在收益也很高对吧？
• text: | 麦迪逊：劳伦斯，文章写完了吗？ 劳伦斯：还没，先生。 劳伦斯：但很快就能完成。 麦迪逊：好的，抓紧时间。 麦迪逊：今天必须交稿。 劳伦斯：明白 劳伦斯：完成后立即回复您。

model-index:

• name: bart-finetuned-samsum results:
  • task: name: 文本摘要 type: summarization dataset: name: SamSum type: samsum metrics:
    • name: 验证集ROUGE-1 type: rouge-1 value: 53.8804
    • name: 验证集ROUGE-2 type: rouge-2 value: 29.2329
    • name: 验证集ROUGE-L type: rougeL value: 44.774
    • name: 验证集ROUGE-L总和 type: rougeLsum value: 49.8255
    • name: 测试集ROUGE-1 type: rouge-1 value: 52.8156
    • name: 测试集ROUGE-2 type: rouge-2 value: 28.1259
    • name: 测试集ROUGE-L type: rougeL value: 43.7147
    • name: 测试集ROUGE-L总和 type: rougeLsum value: 48.5712

模型说明

本模型是基于facebook/bart-large-xsum的专项优化版本，通过SamSum对话数据集微调，显著提升了对话摘要生成能力。

开发过程

• Kaggle笔记本: 使用大语言模型进行文本摘要

使用示例

from transformers import pipeline

model = pipeline("summarization", model="luisotorres/bart-finetuned-samsum")

conversation = '''莎拉：你觉得投资比特币是好主意吗？
    艾米丽：我持怀疑态度。市场波动太大，可能会亏钱。
    莎拉：确实。但潜在收益也很高对吧？                                     
'''
model(conversation)

训练参数

评估策略 = "按周期",
保存策略 = '按周期',
训练结束时加载最佳模型 = True,
最佳模型指标 = '验证损失',
随机种子 = 42,
学习率=2e-5,
单设备训练批大小=4,
单设备评估批大小=4,
梯度累积步数=2,
权重衰减=0.01,
最大保存次数=2,
训练周期数=4,
生成式预测=True,
混合精度训练=True,
报告输出="无"

参考文献

本模型基于BART原始架构，详见：

Lewis等人(2019). BART：用于自然语言生成、翻译和理解的去噪序列到序列预训练。arXiv:1910.13461