这是bytedance-research/Phantom模型的GGUF直接转换版本，可在ComfyUI中结合ComfyUI-GGUF自定义节点使用。

针对低端硬件和纯CPU环境优化的量化版本，在资源限制下实现生产可用的推理就绪配置

该模型是基于llava-hf/llava-1.5-7b-hf转换的GGUF格式模型，支持图像文本生成任务。

这是一个基于ByteDance-Seed/Seed-Coder-8B-Reasoning-bf16转换的GGUF格式模型，适用于代码生成和推理任务。

MagTie-v1-12B的GGUF量化版本集合，通过mergekit工具合并预训练语言模型创建，适用于文本生成任务。

Bielik-4.5B-v3.0-Instruct-GGUF 是 SpeakLeash 发布的波兰语大语言模型，基于 Bielik-4.5B-v3.0-Instruct 转换的 GGUF 量化格式，适用于本地推理。

Qwen3是通义千问系列大语言模型的最新迭代，提供稠密模型与混合专家（MoE）模型的完整套件。

Qwen3-8B的GGUF格式量化版本，由TensorBlock提供，兼容llama.cpp

基于Llama-3-3B架构的指令微调模型，支持对话、推理和角色扮演等任务，适用于通用人工智能辅助场景。

LLaMA-3-8B-Instruct的消融版本，通过特定技术手段强制模型用土耳其语响应

玲珑线性预览版是由InclusionAI开源发布的混合线性稀疏大语言模型，总参数量17.1B，激活参数量3.0B。

Zero-Mistral-24B 是一个基于 Mistral 架构的大型语言模型，支持俄语和英语，适用于对话和文本生成任务。

DeepSeek-R1 是一个高效的大语言模型，采用了 Unsloth Dynamic v2.0 量化技术，实现了卓越的准确性。

基于Canopy Labs预训练模型微调的文本转语音模型，支持英语，采用GGUF Q2_K量化格式实现高效推理

基于Canopy Labs预训练模型微调的文本转语音模型，量化后支持高效推理

基于Canopy Labs预训练模型微调的文本转语音(TTS)模型，量化为GGUF FP16格式以实现高效推理

基于Canopy Labs预训练模型微调的8位量化文本转语音模型，支持英语24kHz音频生成

基于Google Gemma 3 270亿参数指令调优模型的量化版本，采用量化感知训练(QAT)权重生成，支持多种量化级别以适应不同硬件需求。

该模型是对google/gemma-3-12b-it进行INT4量化的版本，通过GPTQ算法将参数从16比特降至4比特，显著减少了磁盘空间和GPU内存需求。

这是一个基于canopylabs/3b-hi-ft-research_release模型转换的GGUF格式模型，支持印地语文本处理。

Phi-4-mini 是由 PyTorch 团队开发的量化语言模型，采用8位嵌入和8位动态激活，以及4位权重线性层（8da4w）的量化方案，适合移动端部署。

该模型是mlabonne/gemma-3-4b-it-abliterated的GGUF格式转换版本，结合了x-ray_alpha的视觉组件，提供更流畅的多模态体验。

Gemma 3 4B Instruct 是 Google 开发的一个 40 亿参数的大语言模型，专注于文本生成和理解任务。

Doge模型采用动态掩码注意力机制进行序列转换，并可使用多层感知机或跨域专家混合进行状态转换。

基于BAAI/bge-reranker-base模型转换的GGUF格式重排序模型，支持中英文文本排序任务

这是一个基于Turkish-Llama-8b-DPO-v0.1模型微调的土耳其语函数调用模型，专门用于执行土耳其语的函数调用任务。

该模型是基于Qwen2.5-VL-7B-Instruct转换的GGUF格式模型，支持多模态任务，适用于图像和文本的交互处理。

这是Qwen2.5-VL-7B-Instruct模型的GGUF量化版本，适用于多模态任务，支持图像和文本输入。

基于Phi 4架构的大型语言模型，拥有140亿参数，针对自然语言处理和文本对话任务进行了优化。

这是Google Gemma 3B模型的量化版本，基于llama.cpp进行优化，适合在资源有限的环境中运行。

这是一个基于TheDrummer/Fallen-Gemma3-4B-v1模型的量化版本，使用llama.cpp进行量化处理，适用于文本生成任务。

这是Qwen/QwQ-32B模型的4位量化版本，通过BitsAndBytes库进行优化，适用于资源受限环境下的文本生成任务。

这是一个基于mlabonne/gemma-3-4b-it-abliterated模型的量化版本，使用llama.cpp进行imatrix量化，适用于图像文本到文本任务。

GemmaX2-28-9B-v0.1-Q2_K-GGUF 是一个基于 ModelSpace/GemmaX2-28-9B-v0.1 转换而来的 GGUF 格式模型，支持多种语言的翻译任务。

采用闪存线性注意力格式的RWKV-7模型，基于Pile数据集训练，支持英语文本生成任务。

这是对rinna/qwen2.5-bakeneko-32b-instruct-v2使用llama.cpp进行量化的版本，兼容多种基于llama.cpp的应用。

Gemma 3.4B IT 是由 Google 开发的开源大语言模型，此版本为通过 llama.cpp 转换为 GGUF 格式的 4-bit 量化版本。

Gemma 3.4B IT 是 Google 开发的一个 34 亿参数的大语言模型，专注于指令调优版本，适用于多种自然语言处理任务。

OlympicCoder-32B的量化版本，基于llama.cpp的imatrix量化方法，适用于代码生成任务。

Tantum合并过程中的中间步骤模型，由多个24B参数的Mistral和Llama3变体合并而成，适用于角色扮演和文本生成任务。