AIbase

Q

Qwen3 235B A22B Exl3

由 MikeRoz 开发
Qwen3-235B-A22B 的 Exllamav3 量化版本，提供多种量化选项以优化模型大小和性能。
大型语言模型开源协议:Apache-2.0#大语言模型量化#高效推理优化#多精度可选
下载量 37
发布时间 : 5/12/2025
模型介绍
内容详情
替代品

模型简介

该模型是 Qwen3-235B-A22B 的量化版本，使用 exllamav3 工具进行量化，适用于文本生成任务。

模型特点

多种量化选项
提供 2.25 bpw、3.00 bpw 和 4.00 bpw 三种量化选项，适应不同硬件需求。
高效推理
通过 exllamav3 量化工具优化，提升推理效率。
大模型支持
支持 235B 参数的大模型，适用于复杂文本生成任务。

模型能力

文本生成
多语言支持

使用案例

自然语言处理
文本生成
生成高质量、连贯的文本内容。
对话系统
用于构建智能对话系统。