# 8bit量化

ERNIE 4.5 21B A3B PT 8bit
Apache-2.0
ERNIE-4.5-21B-A3B-PT-8bit 是百度 ERNIE-4.5-21B-A3B-PT 模型的 8 位量化版本,转换为 MLX 格式,适用于苹果芯片设备。
大型语言模型 支持多种语言
E
mlx-community
123
1
Jan Nano 8bit
Apache-2.0
Jan-nano-8bit 是基于 Menlo/Jan-nano 模型转换而来的 8 位量化版本,专为 MLX 框架优化,适用于文本生成任务。
大型语言模型
J
mlx-community
188
1
Josiefied DeepSeek R1 0528 Qwen3 8B Abliterated V1 8bit
这是一个基于DeepSeek-R1-0528-Qwen3-8B模型转换的MLX格式8位量化版本,适用于文本生成任务。
大型语言模型
J
mlx-community
847
1
Devstral Small 2505 8bit
Apache-2.0
Devstral-Small-2505-8bit 是一个基于 mistralai/Devstral-Small-2505 转换的 8 位量化模型,适用于 MLX 框架,支持多种语言的文本生成任务。
大型语言模型 支持多种语言
D
mlx-community
789
1
Spark TTS 0.5B 8bit
这是一个基于MLX格式的文本转语音模型,支持英文和中文,由prince-canuma/Spark-TTS-0.5B转换而来。
语音合成 支持多种语言
S
mlx-community
56
1
Csm 1b 8bit
Apache-2.0
这是一个从 sesame/csm-1b 转换为 MLX 格式的文本转语音模型,支持英文语言。
语音合成 支持多种语言
C
mlx-community
36
0
Qwen3 235B A22B 8bit
Apache-2.0
该模型是基于Qwen/Qwen3-235B-A22B转换而来的8位量化版本,适用于文本生成任务。
大型语言模型
Q
mlx-community
477
2
Qwen3 30B A3B MLX 8bit
Apache-2.0
该模型是基于Qwen/Qwen3-30B-A3B转换而来的MLX格式模型,支持8位量化,适用于文本生成任务。
大型语言模型
Q
lmstudio-community
7,759
6
Qwen3 30B A3B MLX 4bit
Apache-2.0
Qwen3-30B-A3B-MLX-8bit 是基于 Qwen/Qwen3-30B-A3B 转换的 8 位量化版本,专为 MLX 框架优化,适用于文本生成任务。
大型语言模型
Q
lmstudio-community
4,199
19
Qwen3 30B A3B 8bit
Apache-2.0
Qwen3-30B-A3B-8bit 是 Qwen/Qwen3-30B-A3B 模型的 MLX 格式转换版本,支持在 Apple 芯片上高效运行。
大型语言模型
Q
mlx-community
1,553
6
Qwen3 8B MLX 8bit
Apache-2.0
基于Qwen/Qwen3-8B转换的8位量化MLX格式大语言模型,适用于文本生成任务
大型语言模型
Q
lmstudio-community
63.46k
2
GLM 4 32B 0414 8bit
MIT
该模型是从THUDM/GLM-4-32B-0414转换而来的8位量化MLX格式大语言模型,支持中英文文本生成任务。
大型语言模型 支持多种语言
G
mlx-community
222
4
VL Rethinker 7B 8bit
Apache-2.0
VL-Rethinker-7B-8bit 是一个基于 Qwen2.5-VL-7B-Instruct 的多模态模型,支持视觉问答任务。
文本生成图像 Transformers 英语
V
mlx-community
21
0
VL Rethinker 72B 8bit
Apache-2.0
该模型是基于Qwen2.5-VL-7B-Instruct转换而来的多模态视觉语言模型,支持8位量化,适用于视觉问答任务。
文本生成图像 Transformers 英语
V
mlx-community
18
0
AIbase
智启未来,您的人工智能解决方案智库
简体中文