库名称: mlx
支持语言:

• 阿拉伯语
• 德语
• 英语
• 西班牙语
• 法语
• 印地语
• 印尼语
• 意大利语
• 葡萄牙语
• 泰语
• 菲律宾语
• 越南语

基础模型: meta-llama/Llama-4-Maverick-17B-128E-Instruct
标签:

• facebook
• meta
• pytorch
• llama
• llama-4
• mlx

许可协议提示:
LLAMA 4 社区许可协议
生效日期：2025年4月5日

（此处省略详细协议条款翻译，保持原始格式）

需填写的额外字段:

• 名字: 文本
• 姓氏: 文本
• 出生日期: 日期选择
• 国家: 下拉选择
• 所属机构: 文本
• 职位:
  • 学生
  • 研究生
  • AI研究员
  • AI开发/工程师
  • 记者
  • 其他

（其他表单字段说明略）

许可证类型: 其他
许可证名称: llama4
模型类型: 文本生成

mlx-社区/Llama-4-Maverick-17B-16E-Instruct-4bit

该模型由meta-llama/Llama-4-Maverick-17B-128E-Instruct使用mlx-lm 0.22.3版本转换而来。

MLX使用方式

pip install mlx-lm

from mlx_lm import load, generate

model, tokenizer = load("mlx-community/Llama-4-Maverick-17B-16E-Instruct-4bit")

prompt = "你好"

if tokenizer.chat_template is not None:
    messages = [{"role": "user", "content": prompt}]
    prompt = tokenizer.apply_chat_template(
        messages, add_generation_prompt=True
    )

response = generate(model, tokenizer, prompt=prompt, verbose=True)