基础模型: meta-llama/Llama-3.2-3B 语言:

• 英语 库名称: transformers 许可证: llama3.2 标签:
• llama-3
• llama
• meta
• facebook
• unsloth
• transformers

查看我们的模型集获取Llama 3.2的所有版本，包括GGUF、4位和原始16位格式。

GGUF上传

提供16位、8位、6位、5位、4位、3位和2位版本。

通过Unsloth以5倍速度、70%更低内存微调Llama 3.2、Gemma 2和Mistral 2！

我们为Llama 3.2（3B）提供了一个免费的Google Colab Tesla T4笔记本：https://colab.research.google.com/drive/1T5-zKWM_5OD21QHwXHiV9ixTRR7k3iB9?usp=sharing

Llama-3.2-3B

关于该模型的更多详情，请访问Meta的原始模型卡片

✨ 免费微调

所有笔记本都适合初学者！添加您的数据集，点击“全部运行”，即可获得一个速度提升2倍的微调模型，并可导出为GGUF、vLLM或上传至Hugging Face。

• 这个对话笔记本适用于ShareGPT ChatML/Vicuna模板。
• 这个文本补全笔记本用于原始文本。这个DPO笔记本复现了Zephyr。
• * Kaggle提供2个T4，但我们仅使用1个。由于开销，1个T4速度提升5倍。

特别感谢

衷心感谢Meta和Llama团队创建并发布这些模型。

模型信息

Meta Llama 3.2系列是多语言大语言模型(LLM)的集合，包含1B和3B规模的预训练和指令调优生成模型(文本输入/文本输出)。Llama 3.2指令调优的纯文本模型针对多语言对话用例进行了优化，包括代理检索和摘要任务。它们在常见的行业基准测试中优于许多开源和闭源聊天模型。

模型开发者: Meta

模型架构: Llama 3.2是一种自回归语言模型，采用优化的transformer架构。调优版本使用监督微调(SFT)和基于人类反馈的强化学习(RLHF)来与人类偏好对齐，确保帮助性和安全性。

支持的语言: 英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语为官方支持语言。Llama 3.2的训练语言范围比这8种支持语言更广。开发者可以针对这些支持语言之外的语言微调Llama 3.2模型，前提是遵守Llama 3.2社区许可和可接受使用政策。开发者始终需要确保其部署(包括涉及其他语言的部署)是安全且负责任的。

Llama 3.2模型系列 令牌计数仅指预训练数据。所有模型版本均使用分组查询注意力(GQA)以提高推理可扩展性。

模型发布日期: 2024年9月25日

状态: 这是一个基于离线数据集训练的静态模型。未来可能会发布改进模型能力和安全性的版本。

许可证: Llama 3.2的使用受Llama 3.2社区许可证(一种定制的商业许可协议)约束。

关于模型的问题或意见反馈方式 有关如何提供模型反馈或意见的说明可在模型README中找到。有关生成参数的技术信息以及如何在应用程序中使用Llama 3.1的指南，请访问此处。