标签:

• 摘要生成 数据集:
• gigaword 许可证: mit 缩略图: https://en.wikipedia.org/wiki/Bart_Simpson#/media/File:Bart_Simpson_200px.png

面向Gigaword的BART模型

• 本模型通过对facebook/bart-large-cnn权重（同样托管于HuggingFace）在Gigaword数据集上进行微调而创建。模型在Gigaword训练集上经过3轮迭代微调，最终保留在训练批次中ROUGE-1分数最高的版本。
• 微调过程中采用了CNN-Dailymail专用的BART分词器，当执行以下代码时将自动加载该分词器：

from transformers import AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained("a1noack/bart-large-gigaword")

摘要生成效果

• 该模型在Gigaword测试集上取得37.28/18.58/34.53的ROUGE-1/ROUGE-2/ROUGE-L分数；相较于PEGASUS模型google/pegasus-gigaword取得的39.12/19.86/36.24表现优异。
• 使用以下代码生成文本可获得上述效果。其中text_list为输入文本字符串列表：

input_ids_list = tokenizer(text_list, truncation=True, max_length=128, 
       return_tensors='pt', padding=True)['input_ids']
output_ids_list = model.generate(input_ids_list, min_length=0)
outputs_list = tokenizer.batch_decode(output_ids_list, skip_special_tokens=True, 
       clean_up_tokenization_spaces=False)