语言: 法语
微件示例:

• 文本: "生成问题: 巴拉克·侯赛因·奥巴马，1961年8月4日出生，是美国政治家和律师。他于2009年当选为美国第44任总统。"
• 文本: "问题: 巴拉克·奥巴马何时当选总统? 上下文: 巴拉克·侯赛因·奥巴马，1961年8月4日出生，是美国政治家和律师。他于2009年当选为美国第44任总统。"

标签:

• pytorch
• t5
• 问题生成
• 序列到序列

数据集:

• fquad
• piaf

T5问题生成与问答模型

模型描述

该模型是基于T5架构的Transformer模型（airklizz/t5-base-multi-fr-wiki-news），针对法语在三个任务上进行了微调：

• 问题生成
• 问答系统
• 答案抽取

在FQuAD验证数据集上表现优异。

使用范围与限制

本模型专为上述三项任务设计，未在其他任务上测试。

from transformers import T5ForConditionalGeneration, T5Tokenizer  
model = T5ForConditionalGeneration.from_pretrained("JDBN/t5-base-fr-qg-fquad")  
tokenizer = T5Tokenizer.from_pretrained("JDBN/t5-base-fr-qg-fquad")  

训练数据

基础模型采用https://huggingface.co/airKlizz/t5-base-multi-fr-wiki-news，在FQuAD和PIAF数据集上针对三项任务微调。数据预处理格式如下：

• 问题生成: "生成问题: 巴拉克·侯赛因·奥巴马，1961年8月4日出生...2009年当选..."
• 问答系统: "问题: 巴拉克·奥巴马何时当选...上下文: 巴拉克·侯赛因·奥巴马..."
• 答案抽取: "抽取答案: ...他于2009年当选为美国第44任总统."

预处理代码详见: https://github.com/patil-suraj/question_generation

评估结果

FQuAD验证集表现

问答系统指标

对比原始问题与生成问题的回答效果（基于illuin/camembert-base-fquad模型）:

文献引用

@misc{githubPatil,  
author = {Patil Suraj},  
title = {问题生成GitHub仓库},  
year = {2020},  
howpublished={\url{https://github.com/patil-suraj/question_generation}}  
}  

@article{T5,  
    title={探索文本到文本Transformer的迁移学习极限},  
    author={Colin Raffel等},  
    year={2019},  
    eprint={1910.10683},  
    archivePrefix={arXiv},  
    primaryClass={cs.LG}  
}  

@misc{dhoffschmidt2020fquad,  
      title={FQuAD: 法语问答数据集},  
      author={Martin d'Hoffschmidt等},  
      year={2020},  
      eprint={2002.06071},  
      archivePrefix={arXiv},  
      primaryClass={cs.CL}  
}