许可证：Apache-2.0 推理参数： 束搜索数量：3 束搜索分组数：3 返回序列数：1 重复惩罚系数：3 多样性惩罚系数：3.01 禁止重复词元大小：2 温度参数：0.8 最大长度：64 示例输入：

• 文本：>- 文本改写器：跟随AWS认证专家通过为期两天的《AWS生成式AI应用开发》课程，学习构建生成式AI应用程序。 示例标题：AWS课程
• 文本：>- 文本改写器：在医疗领域，生成式AI可辅助生成合成医疗数据用于机器学习模型训练、开发新药候选方案以及设计临床试验。 示例标题：生成式AI
• 文本：>- 文本改写器：通过迁移学习利用已有模型训练，微调技术能减少昂贵算力和标注数据需求，从而获得针对细分场景和业务需求定制的大模型。 示例标题：模型微调

文本改写器（复述生成模型）

本仓库包含基于2.23亿参数T5-Base模型微调的文本复述生成模型。

核心特性：

• 基于t5-base微调：依托预训练文本转换模型的强大能力实现高效复述
• 海量训练数据（43万例）：整合三个开源数据集并经多维度清洗优化
• 高质量复述输出：在保持准确性和事实正确性的前提下显著改变句式结构
• 规避AI检测：生成结果自然流畅，与人工撰写文本难以区分

模型表现：

• 训练损失：1.0645
• 验证损失：0.8761

快速开始：

T5模型需要任务前缀：由于是复述任务，需添加"paraphraser: "前缀

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
import torch

device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
tokenizer = AutoTokenizer.from_pretrained("Ateeqq/Text-Rewriter-Paraphraser")
model = AutoModelForSeq2SeqLM.from_pretrained("Ateeqq/Text-Rewriter-Paraphraser").to(device)

def generate_title(text):
    input_ids = tokenizer(f'paraphraser: {text}', return_tensors="pt", padding="longest", truncation=True, max_length=64).input_ids.to(device)
    outputs = model.generate(
        input_ids,
        num_beams=4,
        num_beam_groups=4,
        num_return_sequences=4,
        repetition_penalty=10.0,
        diversity_penalty=3.0,
        no_repeat_ngram_size=2,
        temperature=0.8,
        max_length=64
    )
    return tokenizer.batch_decode(outputs, skip_special_tokens=True)

text = '通过迁移学习利用已有模型训练，微调技术能减少昂贵算力和标注数据需求，从而获得针对细分场景和业务需求定制的大模型。'
generate_title(text)

输出示例：

 ['借助迁移学习复用已有模型训练，微调技术可降低获取定制化大模型所需的昂贵算力和标注数据成本，满足细分场景和业务需求',
  '通过迁移学习利用前置模型训练，微调过程能减少适配细分业务场景的大模型对高成本算力和标注数据的需求量',
  '基于迁移学习的模型预训练使微调技术得以减少专业领域大模型对昂贵计算资源和标注数据的依赖',
  '运用迁移学习继承已有模型训练成果，微调方法能够降低针对特定使用场景开发大模型所需的算力开销和标注数据要求']

后续开发计划：

（关于持续改进方向的讨论请参见Discussions板块）