许可证: mit
数据集:

• mlabonne/FineTome-100k
  语言:
• en
  基础模型:
• unsloth/Llama-3.2-3B-Instruct
  任务标签: 问答

基于自定义数据集的Llama-3.2-3B-Instruct微调指南

概述

本仓库展示了使用Unsloth库对Llama-3.2-3B-Instruct模型进行微调的全过程。模型在FineTome-100k数据集上进行了60步训练，核心优化包括：

• 4比特量化降低显存占用
• **LoRA（低秩自适应）**实现高效微调
• 提升推理速度的技术与文本生成方法

模型细节

• 模型名称: Llama-3.2-3B-Instruct
• 预训练权重: Unsloth提供的Llama-3.2-3B预训练版本
• 量化方案: 4比特量化（通过load_in_4bit=True设置）以降低显存需求

LoRA配置:

• 秩: 16
• 目标模块:
  • q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj
• LoRA Alpha值: 16
• LoRA丢弃率: 0

梯度检查点:

• 梯度检查点方案: 采用"unsloth"优化长上下文训练

训练过程

• 数据集: FineTome-100k（选取前500条记录）
• 损失函数: 标准序列到序列任务损失
• 训练步数: 60步（批量大小为2，梯度累积步数为4）
• 优化器: 8比特AdamW

训练参数:

• 最大序列长度: 2048个token
• 学习率: 2e-4
• 梯度累积步数: 4
• 总步数: 60
• 训练轮次: 1（因max_steps设为60）
• 训练精度: 根据GPU支持选用FP16或BF16

性能表现

• 使用GPU: Tesla T4（最大显存14.7GB）

峰值显存占用:

• 总预留显存: 3.855GB
• LoRA占用显存: 1.312GB
• 显存利用率: 峰值达26.1%

结论

本案例演示了通过LoRA与4比特量化技术高效微调大语言模型的方法。Unsloth库实现了快速训练与推理，使得该方案即使在使用有限GPU资源时也能胜任大规模任务。

实践手册

完整实现代码详见此笔记本，其中包含模型微调与部署的详细步骤。