嗨嗨！🌟

这是GradientPutri与Sao10K的合作成果

这是过去几周我们倾注热情的心血项目，希望您能喜欢

虽然可能存在小瑕疵，但最终效果令人满意，优质输出是我们的核心目标

模型卡片由GradientPutri制作

📜 授权信息

本模型基于Meta的Llama 3.3，受Llama 3.3社区许可协议及可接受使用政策约束

🚀 模型特性

• 🌟 受Deepseek-R1启发的思维型模型，通过SFT和少量RL在创意写作数据上训练
• 🧠 在助手回复前添加<think>\n可激活思维模式，不启用时表现同样出色
• 🚀 相比基础模型显著提升了指令遵循、角色扮演和创意控制能力

📚 数据集构成

• 👾 经过重构、清洗和过滤的半合成对话/角色扮演数据集
• 🎭 人工标注的自然对话/角色扮演数据集，经质量筛选
• 📝 来自多个LLM的多样化指令数据集，过滤拒绝响应并确保质量
• 💭 取自Deepseek-R1的推理轨迹数据，涵盖指令、对话和创意任务
• █▓▒ 未使用毒性/去审查数据，当前模型已具备足够自由度

总token量：约2.7亿token（可训练2.1亿），训练2个epoch

🎨 格式与采样器

指令格式：Llama-3-Instruct

<|begin_of_text|><|start_header_id|>system<|end_header_id|>

{系统提示}<|eot_id|><|start_header_id|>user<|end_header_id|>

{输入}<|eot_id|><|start_header_id|>assistant<|end_header_id|>

{输出}<|eot_id|>
---
注意示例中的换行符表示方式

✨ 采样器推荐

temperature: 0.75
min_p: 0.1
重复惩罚: 1.1
存在惩罚: 1.1

⚙️ 训练参数

# 迭代
训练轮次: 2

# 批处理 - 全局批次 4GPU×批次2×4梯度累积=32
梯度累积步数: 4
微批次大小: 2

# 优化器
优化器: 分页ademamix_8bit
学习率调度器: cosine
学习率: 0.00002
最大梯度范数: 1
权重衰减: 0.01

🦊 感谢访问！愿狐仙为您带来好运！🌸