基础模型：meta-llama/Llama-3.2-3B-Instruct 语言：

• 英语 库名称：transformers 许可证：llama3.2 标签：
• llama-3
• llama
• meta
• facebook
• unsloth
• transformers

查看我们的合集获取Llama 3.2的版本，包括GGUF和4位格式。

Unsloth的动态4位量化是选择性量化的，相比标准4位大幅提升了准确性。

通过Unsloth，以2-5倍的速度微调LLM，内存使用减少70%！

我们为Llama 3.2（3B）提供了一个免费的Google Colab Tesla T4笔记本：https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Llama3.1_(8B)-Alpaca.ipynb

unsloth/Llama-3.2-3B-unsloth-bnb-4bit

有关该模型的更多详情，请访问Meta的原始模型卡片

✨ 免费微调

所有笔记本都适合初学者！添加您的数据集，点击“全部运行”，您将获得一个速度提升2倍的微调模型，可以导出为GGUF、vLLM或上传至Hugging Face。

• 这个Llama 3.2对话笔记本适用于ShareGPT ChatML/Vicuna模板。
• 这个文本补全笔记本用于原始文本。这个DPO笔记本复制了Zephyr。
• * Kaggle有2个T4，但我们使用1个。由于开销，1个T4快5倍。

特别感谢

非常感谢Meta和Llama团队创建并发布了这些模型。

模型信息

Meta Llama 3.2系列多语言大语言模型（LLMs）是一组预训练和指令调优的生成模型，包含1B和3B规模（文本输入/输出）。Llama 3.2指令调优的纯文本模型针对多语言对话用例进行了优化，包括代理检索和摘要任务。它们在常见的行业基准测试中优于许多开源和闭源聊天模型。

模型开发者：Meta

模型架构：Llama 3.2是一种自回归语言模型，使用了优化的Transformer架构。调优版本使用监督微调（SFT）和人类反馈强化学习（RLHF）来与人类偏好对齐，以实现帮助性和安全性。

支持的语言：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语是官方支持的语言。Llama 3.2的训练语言范围比这8种支持的语言更广泛。开发者可以针对这些支持语言之外的语言微调Llama 3.2模型，前提是他们遵守Llama 3.2社区许可证和可接受使用政策。开发者始终需要确保他们的部署（包括涉及其他语言的部署）是安全和负责任的。

Llama 3.2模型系列：令牌计数仅指预训练数据。所有模型版本都使用分组查询注意力（GQA）以提高推理可扩展性。

模型发布日期：2024年9月25日

状态：这是一个基于离线数据集训练的静态模型。未来可能会发布改进模型能力和安全性的版本。

许可证：Llama 3.2的使用受Llama 3.2社区许可证（一个自定义的商业许可协议）约束。

关于模型的问题或意见发送到哪里：有关如何提供模型反馈或意见的说明可以在模型README中找到。有关生成参数的技术信息以及如何在应用程序中使用Llama 3.1的配方，请访问这里。