开源协议: mit
数据集:

• google/boolq
  支持语言:
• 英语
  评估指标:
• bleu
  基础模型:
• google-t5/t5-base
  任务标签: 文本生成
  模型标签:
• 问题生成
• 教育
• 代码
• 布尔问题
• 文本生成推理
  库名称: transformers

BoolQ T5模型

本仓库包含基于BoolQ数据集微调的T5-base模型，专门用于生成真/假类问答对。该模型利用T5的文本到文本框架，可直接从给定段落生成自然语言问题及其对应的"是/否"答案。

模型概览

本实现采用PyTorch Lightning框架，简化了训练、验证和超参数调优流程。通过将预训练的T5-base模型适配到问题生成和答案预测任务，该模型在一个统一框架中有效桥接了文本理解与生成能力。

数据处理流程

输入格式

每个输入样本按以下格式构建：

truefalse: [答案] passage: [文本段落] </s>

目标格式

每个目标样本格式为：

question: [问题] answer: [是/否] </s>

布尔答案统一规范化为"yes"或"no"以确保训练一致性。

训练参数

• 框架: PyTorch Lightning
• 优化器: 带线性学习率调度和热启动的AdamW
• 批处理大小:
  • 训练阶段: 6
  • 评估阶段: 6
• 最大序列长度: 256个标记
• 训练轮次: 4

评估指标

采用BLEU分数评估生成问题和答案的质量。问题生成指标如下：

注：这些指标从量化角度评估模型生成连贯且相关问答对的能力

使用指南

通过Hugging Face Transformers管道可轻松调用模型进行推理：

from transformers import pipeline

generator = pipeline("text2text-generation", model="Fares7elsadek/boolq-t5-base-question-generation")

# 示例推理：
input_text = "truefalse: [答案] passage: [此处输入您的文本段落] </s>"
result = generator(input_text)
print(result)