许可证：apache-2.0
数据集：

• msamogh/indirect-requests
  语言：
• 英文
  评估指标：
• 准确率
  基础模型：
• google-t5/t5-base
  任务标签：文本生成文本
  库名称：transformers
  标签：
• 提示词重构
• 提示词优化
• 间接请求
• 语用学

PragmaticLM - 基于T5的提示词重构模型

📌 概述

PragmaticLM 是一个基于T5微调的模型，专为重构用户提示词而设计，以提升下游大语言模型的理解能力。该模型通过上下文重构技术增强提示词的清晰度。

🚀 模型详情

• 基础模型: T5-Base
• 训练数据: 间接请求数据集
• 任务类型: 文本到文本转换
• 依赖库: Hugging Face Transformers

📊 训练配置

• 训练轮次: 10
• 批大小: 8
• 学习率: 编码器 1e-5，解码器 3e-5
• 优化器: AdamW
• 损失函数: 交叉熵损失
• 硬件: T4 GPU

⚡ 使用示例

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM  
import torch  

tokenizer = AutoTokenizer.from_pretrained("aliMohammad16/pragmaticLM")  
model = AutoModelForSeq2SeqLM.from_pretrained("aliMohammad16/pragmaticLM")  

def restructure_prompt(input_prompt):  
    input_text = f"重构提示词: {input_prompt}"  
    inputs = tokenizer(input_text, return_tensors="pt", padding=True)  

    output = model.generate(  
        inputs.input_ids,  
        max_length=64,  
        num_beams=4,  
        early_stopping=True  
    )  

    return tokenizer.decode(output[0], skip_special_tokens=True)  

# 示例调用  
test_prompt = "我感觉不舒服，需要咨询附近的医生。"  
print(restructure_prompt(test_prompt))  

⏳ 优化进展

• 当前状态: 本项目仍在持续开发中。
• 下一步计划: 将集成TinyLlama 1.1B与Llama Index RAG模块，结合本提示词重构模型构建多模块流程，以优化生成结果。