许可协议：apache-2.0
数据集：

• race
  语言：
• en
  库名称：transformers
  流水线标签：text2text-generation
  推理支持：false

基于RACE数据集微调的t5-large模型用于生成干扰项

• 输入格式：问题<sep>答案<sep>上下文
• 输出：3个干扰项列表

模型详情

本模型是在RACE数据集上微调的t5-large模型，其输入为（问题、答案、上下文）的拼接，输出为3个干扰项列表。这是我们MQAG论文中问题生成流程的第二个组件（即g2），也可参考项目GitHub仓库：https://github.com/potsawee/mqag0。

使用方式

通过以下代码快速使用模型：

>>> from transformers import AutoTokenizer, AutoModelForSeq2SeqLM  

>>> tokenizer = AutoTokenizer.from_pretrained("potsawee/t5-large-generation-race-Distractor")  
>>> model = AutoModelForSeq2SeqLM.from_pretrained("potsawee/t5-large-generation-race-Distractor")  

>>> context = r"""  
... 世界排名第一的诺瓦克·德约科维奇表示，他期待获得"积极决定"以参加下月的印第安维尔斯赛和迈阿密公开赛。美国已延长国际访客需接种新冠疫苗的要求。至少在4月10日前，入境该国需提供疫苗接种证明，但这位塞尔维亚选手此前表示自己未接种疫苗。这位35岁的选手已申请特殊许可入境。印第安维尔斯赛和迈阿密公开赛——网球日历中除大满贯外最负盛名的两项赛事——将分别于3月6日和20日开赛。德约科维奇称他将在下周重返ATP迪拜站，此前他在上月第十次夺得澳网冠军，追平了男子22个大满贯的纪录。""".replace("\n", "")  
>>> question = "本文最佳标题是什么？"  
>>> answer = "德约科维奇申请特殊许可进入美国"  

>>> input_text = " ".join([question, tokenizer.sep_token, answer, tokenizer.sep_token, context])  
>>> inputs = tokenizer(input_text, return_tensors="pt")  
>>> outputs = model.generate(**inputs, max_new_tokens=128)  
>>> distractors = tokenizer.decode(outputs[0], skip_special_tokens=False)  
>>> distractors = distractors.replace(tokenizer.pad_token, "").replace(tokenizer.eos_token, "")  
>>> distractors = [y.strip() for y in distractors.split(tokenizer.sep_token)]  
>>> print(distractors)  
['美国延长国际访客需接种新冠疫苗的要求',  
'德约科维奇重返ATP迪拜站',  
'德约科维奇期待获准参加印第安维尔斯赛和迈阿密公开赛']  

引用

@article{manakul2023mqag,  
  title={MQAG: 通过多选题问答与生成评估摘要信息一致性},  
  author={Manakul, Potsawee and Liusie, Adian and Gales, Mark JF},  
  journal={arXiv预印本 arXiv:2301.12307},  
  year={2023}  
}