使用HuggingFace Transformers进行文本摘要任务

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
model = AutoModelForSeq2SeqLM.from_pretrained("AlekseyKulnevich/Pegasus-Summarization")
tokenizer = PegasusTokenizer.from_pretrained('google/pegasus-large')
input_text # 待摘要文本
input_ = tokenizer.batch_encode_plus([input_text], max_length=1024, pad_to_max_length=True, 
                truncation=True, padding='longest', return_tensors='pt')
input_ids = input_['input_ids'] 
input_mask = input_['attention_mask']
summary = model.generate(input_ids=input_ids, 
                         attention_mask=input_mask, 
                         num_beams=32, 
                         min_length=100,
                         no_repeat_ngram_size=2, 
                         early_stopping=True, 
                         num_return_sequences=10)
questions = tokenizer.batch_decode(summary, skip_special_tokens=True)

解码器配置示例：
点击查看输入文本示例

summary = model.generate(input_ids=input_ids, 
                         attention_mask=input_mask, 
                         num_beams=32, 
                         min_length=100,
                         no_repeat_ngram_size=2, 
                         early_stopping=True, 
                         num_return_sequences=1)

tokenizer.batch_decode(summary, skip_special_tokens=True)

输出结果：

1. 根据政府间气候变化专门委员会（IPCC）和美国国家海洋和大气管理局（NOAA）发布的新研究，全球变暖将扩大热带气旋在世界中纬度地区的活动范围。研究表明，气候变暖将使这类风暴在比过去三百万年更广的范围内形成。"随着气候变暖，这些风暴可能会变得更加频繁和强烈，"该研究的作者表示。

summary = model.generate(input_ids=input_ids, 
                         attention_mask=input_mask, 
                         top_k=30, 
                         no_repeat_ngram_size=2, 
                         early_stopping=True, 
                         min_length=100,
                         num_return_sequences=1)

tokenizer.batch_decode(summary, skip_special_tokens=True)

输出结果：

1. 政府间气候变化专门委员会（IPCC）关于人类引起的气候变化对这些风暴影响的新研究显示，全球中纬度地区的热带气旋可能会形成更多此类风暴。研究表明，气候变暖将增加副热带气旋在包括赤道在内的更广纬度范围内形成的可能性，这种情况在过去三百万年间未曾出现，并且更可能在热带地区形成。

您还可以尝试调整generate方法中的以下参数：
-top_k
-top_p
点击查看文本生成参数详解