AIbase

Q

Qwen3 8B GGUF

由 ZeroWw 开发
ZeroWw是一个经过量化的文本生成模型，输出和嵌入张量使用f16格式，其余张量使用q5_k或q6_k格式，体积更小且性能与纯f16相当。
大型语言模型
英语
开源协议:MIT#量化文本生成#f16嵌入优化#低存储需求
下载量 236
发布时间 : 4/29/2025
模型介绍
内容详情
替代品

模型简介

该模型主要用于文本生成任务，通过量化技术减小模型体积同时保持高性能。

模型特点

高效量化
输出和嵌入张量使用f16格式，其余张量使用q5_k或q6_k格式，显著减小模型体积。
性能保持
量化后的模型性能与纯f16格式相当，无明显性能损失。
体积优化
f16.q6和f16.q5量化版本比标准q8_0量化体积更小。

模型能力

文本生成

使用案例

文本生成
内容创作
用于自动生成文章、故事或其他文本内容。
对话系统
用于构建聊天机器人或虚拟助手。