语言:

• 英语 许可证: Apache-2.0 标签:
• 摘要生成
• Azure机器学习
• Azure
• CodeCarbon
• BART 数据集:
• SAMSum对话数据集 评估指标:
• ROUGE 模型索引:
• 名称: bart-large-samsum 结果:
  • 任务: 名称: 抽象文本摘要 类型: 抽象文本摘要 数据集: 名称: "SAMSum语料库：用于抽象摘要的人工标注对话数据集" 类型: samsum 指标:
    • 名称: 验证集ROUGE-1 类型: rouge-1 值: 55.0234
    • 名称: 验证集ROUGE-2 类型: rouge-2 值: 29.6005
    • 名称: 验证集ROUGE-L 类型: rouge-L 值: 44.914
    • 名称: 验证集ROUGE-Lsum 类型: rouge-Lsum 值: 50.464
    • 名称: 测试集ROUGE-1 类型: rouge-1 值: 53.4345
    • 名称: 测试集ROUGE-2 类型: rouge-2 值: 28.7445
    • 名称: 测试集ROUGE-L 类型: rouge-L 值: 44.1848
    • 名称: 测试集ROUGE-Lsum 类型: rouge-Lsum 值: 49.1874 示例输入:
• 文本: | 亨利：嘿，内特今晚会过来看电影吗？ 凯文：是的，他说他6点下班，大概7点到。你倒垃圾了吗？ 亨利：哦我忘了，做完数学作业就去倒。 凯文：嗯最好尽快。对了内特要带女朋友来。 亨利：太好了，真期待再见到他们。

bart-large-samsum模型

该模型使用微软Azure机器学习服务训练，基于facebook/bart-large预训练模型在SAMSum对话数据集上微调而成。

使用方式（推理）

from transformers import pipeline
summarizer = pipeline("summarization", model="linydub/bart-large-samsum")

input_text = '''
    亨利：嘿，内特今晚会过来看电影吗？
    凯文：是的，他说他6点下班，大概7点到。你倒垃圾了吗？
    亨利：哦我忘了，做完数学作业就去倒。
    凯文：嗯最好尽快。对了内特要带女朋友来。
    亨利：太好了，真期待再见到他们。
'''
summarizer(input_text)

AzureML微调

更多关于微调过程的详细信息（含样本和基准测试）：
[预览版] https://github.com/linydub/azureml-greenai-txtsum

资源使用情况

数据来自Azure Monitor指标，所有实验均在AzureML低优先级计算集群上运行。

*成本($)根据运行时长、计算节点数和规格每小时价格估算，最新价格参见Azure定价页。

碳排放

使用CodeCarbon测算，仅含训练阶段（不含准备和评估阶段）。

超参数配置

• 最大源文本长度: 512
• 最大目标文本长度: 90
• 混合精度训练: 开启
• 随机种子: 1
• 单设备训练批大小: 16
• 单设备评估批大小: 16
• 梯度累积步数: 1
• 学习率: 5e-5
• 训练轮次: 3.0
• 权重衰减: 0.1

性能结果