🚀 模型名称

本模型是一个序列到序列的问题生成器，它以答案和上下文作为输入，并生成问题作为输出。它基于预训练的 t5-base 模型构建。

🚀 快速开始

本模型是一个序列到序列的问题生成器，接收答案和上下文作为输入，输出相应的问题。它基于预训练的 t5-base 模型，能有效生成阅读理解风格的问题。

✨ 主要特性

• 以答案和上下文为输入，生成问题输出。
• 基于预训练的 t5-base 模型。
• 适用于完整句子答案，也可处理单个单词或短短语答案。

📦 安装指南

文档未提及安装步骤，故跳过该章节。

💻 使用示例

基础用法

模型将拼接后的答案和上下文作为输入序列，并生成完整的问题句子作为输出序列。最大序列长度为 512 个标记。输入应组织成以下格式：

<answer> 此处为答案文本 <context> 此处为上下文文本

然后可以对输入序列进行编码，并将其作为 input_ids 参数传递给模型的 generate() 方法。

高级用法

为了获得最佳结果，可以生成大量问题，然后使用 iarfmoose/bert-base-cased-qa-evaluator 进行过滤。

更多示例请参见：https://github.com/iarfmoose/question_generator。

📚 详细文档

预期用途与限制

• 预期用途：该模型经过训练，用于生成阅读理解风格的问题，答案从文本中提取。模型在处理完整句子答案时表现最佳，但也可用于单个单词或短短语答案。
• 限制和偏差：
  • 模型仅限于生成与 SQuAD、CoQA 和 MSMARCO 中类似风格的问题。
  • 生成的问题可能具有引导性，或者反映上下文中存在的偏差。
  • 如果上下文过短或完全缺失，或者上下文与答案不匹配，生成的问题可能会不连贯。

训练数据

该模型在由几个知名问答数据集（SQuAD、CoQA 和 MSMARCO）组成的数据集上进行了微调。这些数据集通过将答案和上下文字段拼接成上述格式进行了重构。数据集中的问题字段在训练期间用作目标。完整的训练集大约有 200,000 个示例。

训练过程

该模型在训练集上进行了 20 个周期的训练，学习率为 1e-3。由于在 Google Colab 上训练时 GPU 内存限制，批量大小仅为 4。

🔧 技术细节

模型基于预训练的 t5-base 模型，在特定的问答数据集上进行微调。训练过程中，将答案和上下文拼接成特定格式作为输入，问题作为目标进行训练。训练周期为 20 个，学习率为 1e-3，受限于 GPU 内存，批量大小为 4。

📄 许可证

文档未提及许可证信息，故跳过该章节。