license: other license_url: https://github.com/meta-llama/llama-models/blob/main/models/llama3_1/LICENSE tags:

• llama3
• 指令微调
• 摘要生成
• 微调模型
• 合并模型

🧠 FlamingNeuron / llama381binstruct_summarize_short_merged

这是一个基于NousResearch/Meta-Llama-3.1-8B-Instruct的合并模型，通过LoRA适配器针对法律领域摘要任务进行了微调。LoRA权重已与基础模型合并，可独立使用。

🔍 任务功能

本模型能将法律术语转换为简短易懂的摘要，训练数据源自legal_summarization项目。

💡 使用示例

完整配置指南和推理示例请见：
👉 GitHub仓库: LLaMA3-demo

本模型采用Meta风格的结构化提示词，包含两个字段：original_text（原始文本）和reference_summary（参考摘要）。模型将在留空的reference_summary位置生成摘要内容。

🏋️ 训练过程

采用**监督式微调(SFT)**方法，基于legal_summarization数据集对法律文档摘要任务进行训练。训练时应用LoRA适配器，后期通过merge_and_unload()方法完成权重合并。

⚙️ 框架版本

• TRL: 0.16.1
• Transformers: 4.51.3
• PyTorch: 2.6.0+cu124
• Datasets: 3.5.0
• Tokenizers: 0.21.1

📚 文献引用

本模型微调使用了TRL框架。

⚖️ 法律声明

本模型基于Meta的LLaMA 3.1架构，受LLaMA 3.1社区许可协议约束。所有使用行为须符合Meta的可接受使用政策。

模型微调使用的legal_summarization数据集仅限研究及教育用途。

根据Meta许可协议限制（如月活用户不超过7亿），本模型不适用于超出该范围的商业用途。