G

Gemma 3 4b It Qat 4bit

由 mlx-community 开发
Gemma 3 4B IT QAT 4bit 是一个经过量化感知训练(QAT)的4位量化大语言模型,基于Gemma 3架构,专为MLX框架优化。
下载量 607
发布时间 : 4/15/2025
模型介绍
内容详情
替代品

模型简介

该模型是从Hugging Face格式转换到MLX格式的量化版本,适用于图像文本到文本的任务,支持多语言处理。

模型特点

4位量化
模型经过量化感知训练(QAT),以4位精度运行,显著减少内存占用和计算需求。
MLX优化
专为MLX框架优化,提供高效的推理性能。
多语言支持
支持多种语言处理,适用于国际化应用场景。

模型能力

图像文本生成
多语言文本处理
高效推理

使用案例

图像理解与描述
图像描述生成
根据输入的图像生成详细的文本描述。
生成准确且连贯的图像描述。
多语言应用
多语言图像标注
为图像生成多语言标签或描述。
支持多种语言的图像标注。