Qwen2-Audio-7B-Instruct的加权/矩阵量化模型，支持英文音频文本转文本任务

DeepSeek-R1-0528-4bit 是一个基于 DeepSeek-R1-0528 转换而来的 4 位量化模型，专为 MLX 框架优化。

DMind-1 是一个文本生成基础模型，致力于让知识自由传播。

DMind-1-mini 是一个轻量级的文本生成模型，适用于多种自然语言处理任务。

Devstral-Small-2505的量化版本，提供多种精度选择以适应不同硬件需求

MedGemma-27B-Text-IT 是 Google 开发的一个大型语言模型，专注于医疗领域的文本生成任务。

由mistralai开发的Devstral-Small-2505模型，经过MLX 4位量化优化，适用于Apple Silicon设备。

KernelLLM是Facebook开发的大语言模型，此版本为使用llama.cpp工具进行imatrix量化的版本，提供多种量化选项以适应不同硬件需求。

基于a-m-team/AM-Thinking-v1模型的Llamacpp imatrix量化版本，支持多种量化类型，适用于文本生成任务。

Vintern-1B-v3_5是一个10亿参数的视觉语言模型，支持图像文本生成任务。

Sam-reason-S2.1的静态量化版本，提供多种量化选项以适应不同硬件需求

DeepSeek-R1T-Chimera 是一个文本生成模型，基于 tngtech 的技术开发，专注于高效的自然语言处理任务。

基于TheDrummer/Snowpiercer-15B-v1模型的量化版本，使用llama.cpp进行量化，适用于文本生成任务。

专为Rust代码中间填充(FIM)任务微调的大语言模型，基于JetBrains/Mellum-4b-base构建

灵曦是由InclusionAI开源的大规模混合专家语言模型，精简版拥有168亿总参数与27.5亿激活参数，展现出卓越性能表现。

ServiceNow推出的150亿参数高效推理模型，内存占用仅为同类先进模型的一半

这是一个基于Qwen3-30B-A3B模型的4位量化版本，通过从6位量化蒸馏至4位定制的DWQ量化技术制作，适用于文本生成任务。

Qwen3-30B-A3B-FP8-dynamic是基于Qwen3-30B-A3B模型通过FP8量化优化的版本，显著降低了内存需求和计算成本，同时保持了原始模型的高准确率。

Qwen3-8B-AWQ是通义千问系列最新一代8.2B参数的大语言模型，采用AWQ 4-bit量化技术优化推理效率。

Qwen3-8B-FP8-dynamic是基于Qwen3-8B模型通过FP8量化优化的版本，显著降低了GPU内存需求和磁盘空间占用，同时保持了原始模型的性能。

猎鹰H1是由阿联酋技术创新研究院开发的混合架构语言模型，结合Transformer与Mamba架构，支持多语言处理

Qwen3-4B是基于Qwen3-4B-Base的GGUF格式模型，适用于文本生成任务。

MiMo-7B-RL是基于MiMo-7B-SFT模型训练的强化学习模型，在数学与代码推理任务上表现出色，性能媲美OpenAI o1-mini。

基于Mistral架构优化的指令微调模型，适用于零样本分类任务

ZeroWw是一个经过量化的文本生成模型，输出和嵌入张量使用f16格式，其余张量使用q5_k或q6_k格式，体积更小且性能与纯f16相当。

一个经过量化的文本生成模型，输出和嵌入张量采用f16格式，其余张量采用q5_k或q6_k量化，体积更小且性能与纯f16版本持平。

Qwen团队提供的Qwen3-4B的Llamacpp imatrix量化版本，支持多种量化类型，适用于文本生成任务。

这是Meta-Llama-3.1-8B-Instruct模型的INT8量化版本，通过权重量化和激活量化优化，适用于多语言商业和研究用途。

该模型是基于THUDM/GLM-Z1-32B-0414转换的4位量化版本，适用于文本生成任务。

阿里巴巴PAI发布的轻量化版本Qwen2.5大语言模型，专注于高效文本生成任务

Deepthink-1.5B-Open-PRM是一个1.5B参数的开源语言模型，已转换为GGUF格式以便在llama.cpp中使用。

这是pixtral-12b模型的量化版本，使用llama.cpp进行量化，支持图像文本到文本的任务。

这是BAAI/bge-multilingual-gemma2模型的4位GPTQ量化版本，支持多语言文本嵌入任务。

SmolVLM2-2.2B-Instruct 是一个2.2B参数量的视觉语言模型，专注于视频文本转文本任务，支持英语。

Gemma 3是Google基于Gemini技术构建的轻量级开放模型系列，支持多模态输入和文本输出，具有128K大上下文窗口和140+语言支持。

一个基于SigLIP架构的轻量级视觉语言模型，通过蒸馏技术从更大的SigLIP-400m模型中提取知识，适用于零样本图像分类任务。

GLM-4-32B-0414是THUDM团队开发的大规模语言模型，基于GLM架构，适用于多种文本生成任务。

DeepSeek-R1的INT4权重量化版本，通过减少权重位数降低GPU内存和磁盘空间需求约50%，保持原始模型性能。

Falcon-E是由TII开发的1.58比特量化语言模型，采用纯Transformer架构，专为高效推理设计

HiDream-I1-Full是一个基于GGUF格式的文本到图像生成模型，适用于图像生成任务。