AIbase

GGUF量化
Phantom Wan 1.3B GGUF
Apache-2.0
这是bytedance-research/Phantom模型的GGUF直接转换版本，可在ComfyUI中结合ComfyUI-GGUF自定义节点使用。
文本生成视频
英语
P
QuantStack
174
0
Moviigen1.1 VACE GGUF
Apache-2.0
这是ZuluVision/MoviiGen1.1的实验性GGUF转换版本，集成了VACE插件，用于文本生成视频任务。
文本生成视频
M
QuantStack
1,222
7
Wan2.1 VACE 14B GGUF
Apache-2.0
这是Wan-AI/Wan2.1-VACE-14B模型的GGUF量化转换版本，主要用于文本生成视频任务。
文本生成视频
W
QuantStack
2,331
23
Moviigen1.1 GGUF
Apache-2.0
MoviiGen1.1 是一个基于 GGUF 格式转换的视频生成模型，支持文本生成视频任务。
视频处理
M
wsbagnsv1
3,522
18
Ltxv 13b 0.9.7 Distilled GGUF
其他
LTX-Video是一个基于文本生成视频的模型，支持从文本或图像生成视频内容。
文本生成视频
英语
L
wsbagnsv1
6,208
19
Hunyuancustom Gguf
其他
基于腾讯混元定制版模型转换的GGUF格式视频生成模型，支持图像转视频任务
视频处理
H
YarvixPA
441
0
Ace Gguf
Apache-2.0
ACE-Step-v1-3.5B是一个文本转音频模型，支持高质量音频生成，适用于音乐和声音效果创作。
音频生成
A
calcuis
1,332
12
Spark TTS 0.5B GGUF
Spark-TTS-0.5B 是一个基于 prince-canuma/Spark-TTS-0.5B 的量化版本，支持英文和中文的文本转语音任务。
语音合成
支持多种语言
S
mradermacher
318
0
Ltxv 13b 0.9.7 Dev GGUF
其他
基于Lightricks/LTX-Video的13b-0.9.7-dev变体的GGUF量化版本，支持文本生成视频和图像生成视频任务。
文本生成视频
英语
L
wsbagnsv1
25.99k
61
Bielik 1.5B V3.0 Instruct GGUF
Apache-2.0
这是一个波兰语的1.5B参数指令微调模型，基于SpeakLeash的Bielik系列开发，适用于文本生成任务。
大型语言模型
其他
B
speakleash
341
3
Bielik 4.5B V3.0 Instruct GGUF
Apache-2.0
Bielik-4.5B-v3.0-Instruct-GGUF 是 SpeakLeash 发布的波兰语大语言模型，基于 Bielik-4.5B-v3.0-Instruct 转换的 GGUF 量化格式，适用于本地推理。
大型语言模型
其他
B
speakleash
693
4
Qwen Qwen3 0.6B GGUF
Apache-2.0
本仓库包含Qwen/Qwen3-0.6B的GGUF格式模型文件，由TensorBlock提供的机器进行量化处理，兼容llama.cpp。
大型语言模型
Q
tensorblock
905
3
Skyreels V2 DF 14B 540P GGUF
其他
SkyReels-V2-DF-14B-540P 是一个视频生成模型，能够将图像转换为视频。
视频处理
S
wsbagnsv1
76
0
LTX Video 0.9.6 Distilled Gguf
其他
LTX-Video是一个基于GGUF量化的文本生成视频模型，支持从文本或图像生成视频内容。
文本生成视频
英语
L
city96
296
3
Skyreels V2 I2V 1.3B 540P GGUF
其他
SkyReels-V2-I2V-1.3B-540P 是一个图像转视频的生成模型，能够将静态图像转换为动态视频。
视频处理
S
wsbagnsv1
412
2
Deepcogito Cogito V1 Preview Llama 3B GGUF
基于Llama架构的3B参数语言模型，提供多种量化版本以适应不同硬件需求
大型语言模型
D
tensorblock
162
1
Kaiden Sakura Violet Square Azura Crimson 12B
Apache-2.0
这是一个基于多个预训练语言模型合并的12B参数大语言模型，采用mergekit工具合并，适用于文本生成任务。
大型语言模型
Transformers
K
kainatq
81
2
Skyreels V2 T2V 14B 540P GGUF
其他
SkyReels-V2是一个14B参数的文本到视频生成模型，支持540P分辨率视频生成。
视频处理
S
wsbagnsv1
205
1
Skyreels V2 I2V 14B 720P GGUF
其他
SkyReels-V2-I2V-14B-720P 是一个图像转视频生成模型，能够将静态图像转换为动态视频。
视频处理
S
wsbagnsv1
724
4
Orpheus 3b Kaya Q2 K.gguf
Apache-2.0
基于Canopy Labs预训练模型微调的文本转语音模型，支持英语，采用GGUF Q2_K量化格式实现高效推理
语音合成
支持多种语言
O
lex-au
39
0
Orpheus 3b Kaya FP16.gguf
Apache-2.0
基于Canopy Labs预训练模型微调的文本转语音(TTS)模型，量化为GGUF FP16格式以实现高效推理
语音合成
支持多种语言
O
lex-au
45
0
Orpheus 3b Kaya Q8 0.gguf
Apache-2.0
基于Canopy Labs预训练模型微调的8位量化文本转语音模型，支持英语24kHz音频生成
语音合成
支持多种语言
O
lex-au
38
0
Hidream I1 Fast Gguf
MIT
HiDream-I1-Fast是一个基于GGUF量化的文本到图像生成模型，适用于快速图像生成任务。
图像生成
英语
H
city96
8,205
11
Hidream I1 Full Gguf
MIT
HiDream-I1-Full是一个基于GGUF格式的文本到图像生成模型，适用于图像生成任务。
图像生成
英语
H
city96
43.94k
38
Bge Reranker Base Q4 K M GGUF
MIT
基于BAAI/bge-reranker-base模型转换的GGUF格式重排序模型，支持中英文文本排序任务
文本嵌入
支持多种语言
B
sabafallah
44
0
Allura Org Gemma 3 Glitter 4B GGUF
基于allura-org/Gemma-3-Glitter-4B转换的GGUF格式模型文件，使用imatrix量化优化性能
大型语言模型
英语
A
ArtusDev
69
1
Deepseek V3 0324 GGUF
MIT
DeepSeek-V3-0324的GGUF量化版本，适用于本地文本生成任务。
大型语言模型
D
MaziyarPanahi
97.25k
19
Qwq Bakeneko 32b Gguf
Apache-2.0
基于rinna/qwq-bakeneko-32b使用llama.cpp量化的日语对话模型，兼容多数基于llama.cpp的应用
大型语言模型
日语
Q
rinna
1,370
6
Qwen2.5 7B VNTL JP EN GGUF
Apache-2.0
基于Qwen2.5-7B的日英翻译模型GGUF量化版本，支持日文和英文之间的翻译任务。
机器翻译
支持多种语言
Q
TechnoByte
55
1
Qwq Math IO 500M GGUF
Apache-2.0
QwQ-Math-IO-500M是一个专注于数学推理和输入输出处理的500M参数语言模型，提供GGUF格式的量化版本。
大型语言模型
英语
Q
tensorblock
56
1
Qwq 32B GGUF
QwQ-32B的GGUF格式量化版本，适用于本地文本生成任务。
大型语言模型
Q
MaziyarPanahi
459.38k
3
SDXL GGUF
MIT
Stable Diffusion XL的GGUF格式量化版本，提供不同量化级别以适应不同硬件配置。
文本生成图像
S
HyperX-Sentience
2,189
5
Hacker News Comments Summarization Llama 3.2 3B Instruct GGUF
基于Llama-3架构的3.2B参数模型，专门用于生成Hacker News评论的摘要
大型语言模型
英语
H
mradermacher
184
0
Coderankembed Q8 0 GGUF
MIT
本模型是nomic-ai/CodeRankEmbed的GGUF格式转换版本，适用于代码相关任务。
文本嵌入
C
awhiteside
16
1
Mochi Gguf
Apache-2.0
mochi的gguf量化版本是一个文本生成视频的模型，包含gguf编码器和gguf变分自编码器，适用于快速生成视频内容。
文本生成视频
英语
M
calcuis
284
2
Gemmax2 28 2B Gguf
Apache-2.0
GemmaX2-28-2B GGUF量化模型是基于GemmaX2-28-2B-v0.1的一系列量化变体，专为多语言机器翻译设计，支持28种语言。
机器翻译
支持多种语言
G
Tonic
258
5
Wan Gguf
Apache-2.0
Wan视频的GGUF量化版本是一个文本生成视频的模型，适用于老旧或低端机器，支持通过GGUF文件进行高效推理。
文本生成视频
英语
W
calcuis
26.46k
66
Medical Summarization Q4 0 GGUF
Apache-2.0
这是一个基于Falconsai/medical_summarization转换的GGUF格式模型，专门用于医学文本摘要任务。
文本生成
英语
M
fernandoruiz
26
0
Summllama3.2 3B Q4 0 GGUF
这是一个基于DISLab/SummLlama3.2-3B转换的GGUF格式模型，主要用于文本摘要任务。
大型语言模型
S
fernandoruiz
17
0
Bge Reranker V2 M3 Q4 K M GGUF
Apache-2.0
本模型是BAAI/bge-reranker-v2-m3的GGUF量化版本，用于文本重排序任务，支持多语言。
文本嵌入
其他
B
sikreutz
46
1