这是THUDM/GLM-4-32B-0414模型的MLX格式版本，经过4位DWQ量化处理，适用于苹果芯片设备的高效推理。

Qwen3 30B A3B是一个采用GPTQ方法进行8位量化处理的大语言模型，适用于高效推理场景。

Orpheus-3B-0.1-FT 的 GGUF 量化版本，适用于高效推理

Llama 2是由Meta开发的7B参数规模的大语言模型，提供多种量化版本以适应不同硬件需求。

DeepSeek-R1-Medical-COT 是一个专注于医学领域的思维链推理模型，提供多种量化版本以适应不同硬件需求。

QwQ-32B的4位量化版本，使用Bitsandbytes技术进行优化，适用于资源受限环境下的高效推理

这是一个基于Meta Llama 3构建的4位量化GPTQ模型，由Astronomer量化，可在低VRAM设备上高效运行。

这是MoritzLaurer/roberta-base-zeroshot-v2.0-c模型的ONNX格式转换版本，适用于零样本分类任务。