模型库信息

库名称：transformers
支持语言：阿拉伯语、德语、英语、西班牙语、法语、印地语、印尼语、意大利语、葡萄牙语、泰语、塔加洛语、越南语
基础模型：meta-llama/Llama-4-Maverick-17B-128E
标签：facebook、meta、pytorch、llama、llama4

许可协议

LLAMA 4社区许可协议
生效日期：2025年4月5日

关键条款

1. 许可权利：授予非独占、全球性、不可转让且免版税的有限许可，允许使用、复制、分发及创建衍生作品。
2. 分发要求：
   • 必须随分发内容附上本协议
   • 需在显著位置标注"Built with Llama"
   • 衍生AI模型名称须以"Llama"开头
   • 保留版权声明文件
3. 商业限制：月活用户超7亿需额外申请商业许可。
4. 免责声明：模型按"现状"提供，不承担任何明示或默示担保。
5. 知识产权：
   • 禁止未经授权使用商标
   • 衍生作品所有权归开发者所有
   • 提起侵权诉讼将自动终止许可

模型信息

Llama 4系列是原生多模态AI模型，采用混合专家架构(MoE)，提供文本和图像理解能力。本次发布两个版本：

• Llama 4 Scout：170亿参数/16专家
• Llama 4 Maverick：170亿参数/128专家

技术规格

训练数据：包含公开数据、授权数据及Meta产品数据（截至2024年8月）

使用方式

from transformers import AutoProcessor, Llama4ForConditionalGeneration
processor = AutoProcessor.from_pretrained("meta-llama/Llama-4-Maverick-17B-128E-Instruct")
model = Llama4ForConditionalGeneration.from_pretrained(..., torch_dtype=torch.bfloat16)

安全措施

1. 模型级调优：通过人工标注与合成数据结合降低安全风险
2. 系统防护：默认集成Llama Guard、Prompt Guard等安全组件
3. 红队测试：定期进行对抗性测试评估风险
4. 重点风险管控：
   • 生化武器相关内容
   • 儿童安全内容
   • 网络攻击辅助能力

性能基准

预训练模型表现

指令调优模型表现

环境影响

• 总训练能耗：738万GPU小时（H100-80GB）
• 碳排放：基于位置的排放量1999吨CO2当量（市场排放量为0）

注意事项

1. 支持12种主要语言，但预训练覆盖200种语言
2. 图像理解测试上限为5张输入图像
3. 开发者需根据具体应用场景进行额外安全测试
4. 提供漏洞赏金计划和反馈渠道