基础模型信息

基础模型：meta-llama/Llama-3.2-3B-Instruct
支持语言：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语、泰语
任务类型：文本生成
标签：facebook、meta、pytorch、llama、llama-3、llama-cpp、gguf-my-repo

Llama 3.2社区许可协议

协议生效日期：2024年9月25日

关键定义

• 文档：指Meta在https://llama.meta.com/doc/overview发布的Llama 3.2配套规范手册
• 被许可方：需符合法定年龄要求且具备法律约束力的个人或实体
• Llama材料：包含Llama 3.2基础大模型及相关文档的统称

核心条款

1. 许可范围

   • 授予全球性、非独占、不可转让的免版税许可
   • 允许使用、复制、分发及创建衍生作品

2. 分发要求

   • 必须随分发内容附带本协议全文
   • 需在显著位置标注"Built with Llama"标识
   • 衍生AI模型命名须以"Llama"开头
   • 保留版权声明："Llama 3.2采用Llama 3.2社区许可，版权所有© Meta Platforms, Inc."

3. 商业限制

   • 月活用户超7亿时需向Meta申请商业许可

4. 免责声明

   • 材料按"原样"提供，不承担任何明示或默示担保
   • 使用风险完全由用户自行承担

5. 知识产权

   • 禁止未经授权使用双方商标
   • 用户创建的衍生作品所有权归用户所有

可接受使用政策

禁止用途包括但不限于：

• 违法活动（暴力、恐怖主义、儿童剥削等）
• 军事武器开发、关键基础设施操作
• 生成虚假信息、垃圾邮件
• 规避安全限制措施

欧盟特别条款：
多模态模型权利不授予欧盟境内个体或企业（终端用户除外）

模型转换说明

本GGUF格式模型通过llama.cpp从原模型转换而来，支持以下使用方式：

安装与运行

# 通过Homebrew安装
brew install llama.cpp

# CLI调用示例
llama-cli --hf-repo hugging-quants/Llama-3.2-3B-Instruct-Q8_0-GGUF --hf-file llama-3.2-3b-instruct-q8_0.gguf -p "提问内容"

# 服务器模式启动
llama-server --hf-repo hugging-quants/Llama-3.2-3B-Instruct-Q8_0-GGUF --hf-file llama-3.2-3b-instruct-q8_0.gguf -c 2048

源码编译方式

1. 克隆llama.cpp仓库
2. 使用LLAMA_CURL=1等硬件适配标志编译
3. 通过主程序运行推理

注：具体硬件加速选项请参考llama.cpp官方文档