AIbase

G

Gemma 3 12B FornaxV.2 QAT CoT Q4 0 GGUF

由 ConicCat 开发
这是一个实验性的小型思维模型，旨在8GiB消费级显卡上运行，具备通用推理能力。通过监督微调（SFT）和高质量推理轨迹训练，模型能够将推理能力泛化至多种任务。
大型语言模型#消费级显卡推理#通用思维链#低内存优化
下载量 98
发布时间 : 5/6/2025
模型介绍
内容详情
替代品

模型简介

Gemma Fornax是一个基于Gemma 3的12B参数模型，专注于通用推理能力，适用于编码、数学及其他任务。通过QAT检查点训练，模型在Q4_0量化下使用时不会出现质量下降。

模型特点

通用推理能力
通过广泛多样、高质量推理轨迹的监督微调（SFT），模型能够将推理能力泛化至大量任务，而不仅限于编程和数学。
低资源需求
模型设计为在8GiB消费级显卡上运行，Q4_0量化下仅需约6GiB内存。
思维模式切换
类似Qwen 3系列模型，Gemma Fornax可启用或禁用思维模式，通过系统提示中的`/think`或`/no_think`指令控制。
QAT优化
基于QAT检查点的训练使得模型在Q4_0量化下使用时不会出现质量下降。

模型能力

文本生成
通用推理
数学问题解决
编程辅助

使用案例

教育与学习
数学问题解答
模型可用于解决复杂的数学问题，并提供详细的推理过程。
通过思维模式生成详细的解题步骤。
编程开发
代码生成与优化
模型可用于生成代码片段或优化现有代码。
生成高效且可运行的代码。
创意写作
故事生成
模型可用于生成创意故事或角色设定。
生成连贯且富有创意的文本内容。