基础模型: meta-llama/Llama-3.2-1B-Instruct 语言:

• 英语 库名称: transformers 许可证: llama3.2 标签:
• llama-3
• llama
• meta
• facebook
• unsloth
• transformers

查看我们的合集获取Llama 3.2所有版本，包括GGUF、4-bit和原始16-bit格式。

GGUF上传

提供16bit、8bit、6bit、5bit、4bit、3bit和2bit版本。

通过Unsloth以5倍速度、70%更低内存微调Llama 3.2、Gemma 2和Mistral 2！

我们为Llama 3.2（3B）提供了一个免费的Google Colab Tesla T4笔记本：https://colab.research.google.com/drive/1T5-zKWM_5OD21QHwXHiV9ixTRR7k3iB9?usp=sharing

unsloth/Llama-3.2-1B-Instruct

关于该模型的更多详情，请访问Meta的原始模型卡片

✨ 免费微调

所有笔记本都适合初学者！添加您的数据集，点击"全部运行"，您将获得一个速度提升2倍的微调模型，可以导出为GGUF、vLLM或上传至Hugging Face。

• 这个对话笔记本适用于ShareGPT ChatML/Vicuna模板。
• 这个文本补全笔记本用于原始文本。这个DPO笔记本复现了Zephyr。
• * Kaggle提供2个T4，但我们使用1个。由于开销，1个T4速度快5倍。

特别感谢

衷心感谢Meta和Llama团队创建并发布这些模型。

模型信息

Meta Llama 3.2系列是多语言大语言模型(LLM)的集合，包含1B和3B大小的预训练和指令调优生成模型(文本输入/输出)。Llama 3.2指令调优的纯文本模型针对多语言对话用例进行了优化，包括代理检索和摘要任务。它们在常见的行业基准测试中优于许多开源和闭源聊天模型。

模型开发者: Meta

模型架构: Llama 3.2是一种自回归语言模型，使用优化的transformer架构。调优版本使用监督微调(SFT)和人类反馈强化学习(RLHF)来与人类偏好对齐，以提高帮助性和安全性。

支持的语言: 英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语是官方支持的语言。Llama 3.2的训练语言范围比这8种支持的语言更广。开发者可以针对这些支持语言之外的语言微调Llama 3.2模型，前提是他们遵守Llama 3.2社区许可证和可接受使用政策。开发者始终需要确保他们的部署(包括涉及其他语言的部署)是安全且负责任的。

Llama 3.2模型家族 令牌计数仅指预训练数据。所有模型版本都使用分组查询注意力(GQA)以提高推理可扩展性。

模型发布日期: 2024年9月25日

状态: 这是一个基于离线数据集训练的静态模型。未来可能会发布改进模型能力和安全性的版本。

许可证: Llama 3.2的使用受Llama 3.2社区许可证(一种定制的商业许可协议)约束。

关于模型的问题或评论发送到哪里 关于如何提供模型反馈或评论的说明可以在模型README中找到。有关生成参数的技术信息以及如何在应用程序中使用Llama 3.1的配方，请访问此处。