Qwen2 Audio 7B Instruct GGUF
Apache-2.0
Qwen2-Audio-7B-Instruct模型的静态量化版本,支持英文音频文本转文本任务
音频生成文本
Transformers

英语
Q
mradermacher
146
0
Qwen2.5 Omni 7B GGUF
其他
Qwen2.5-Omni-7B-GGUF 是基于 Qwen2.5-Omni-7B 模型的 GGUF 格式版本,支持多模态输入,包括文本、音频和图像。
大型语言模型
英语
Q
ggml-org
319
3
Vintern 1B V3 5 GGUF Ext
MIT
Vintern-1B-v3_5是一个10亿参数的视觉语言模型,支持图像文本生成任务。
文本生成图像
V
rootonchair
242
1
Wan2.1 T2V 14B CausVid GGUF
Apache-2.0
这是一个基于Wan-AI/Wan2.1-T2V-14B模型的GGUF格式转换版本,主要用于文本生成视频任务。
文本生成视频
英语
W
Njbx
190
0
INTELLECT 2 GGUF
INTELLECT-2-GGUF 是 PrimeIntellect/INTELLECT-2 的 GGUF 格式量化版本,适用于文本生成任务。
大型语言模型
I
MaziyarPanahi
88
1
Clinician Note 2.0a I1 GGUF
Clinician-Note-2.0a 是一个专注于医学领域的文本生成模型,特别设计用于临床记录和摘要任务。
大型语言模型
英语
C
mradermacher
352
0
Qwen3 30B A3B GGUF
Qwen3-30B-A3B的GGUF量化版本,支持多种比特量化,适用于文本生成任务。
大型语言模型
Q
MaziyarPanahi
158.92k
3
Skyreels V2 I2V 14B 540P GGUF
其他
SkyReels-V2-I2V-14B-540P 是一个基于 GGUF 格式转换的图像转视频模型,支持从静态图像生成动态视频内容。
视频处理
S
wsbagnsv1
929
8
Orpheus TTS Turkish PT 5000 Q5 K M GGUF
MIT
这是一个土耳其语文本转语音(TTS)模型,基于Orpheus架构,已转换为GGUF格式以便在llama.cpp中使用。
语音合成
其他
O
Karayakar
45
0
Kokoro GGUF
MIT
Kokoro 是一个文本转语音(TTS)模型,提供两种音素化支持的GGUF编码版本。
语音合成
K
mmwillet2
749
1
News Summarizer T5 GGUF
Apache-2.0
这是一个基于T5架构的新闻摘要生成模型的静态量化版本,支持英语文本摘要任务。
文本生成
英语
N
mradermacher
167
0
Mistral Small 3.1 24b Instruct 2503 Hf GGUF
这是一个基于mrfakename/mistral-small-3.1-24b-instruct-2503-hf模型的GGUF格式量化版本,适用于文本生成任务。
大型语言模型
M
MaziyarPanahi
137.78k
2
Gemma 3 12b It GGUF
Gemma 3 12B 的 GGUF 量化版本,适用于文本生成任务。
大型语言模型
G
MaziyarPanahi
641.41k
4
Gemma 3 4b It GGUF
Gemma 3B 模型的 GGUF 量化版本,适用于本地文本生成任务
大型语言模型
G
MaziyarPanahi
358.91k
6
Greek Text Summarization GGUF
Apache-2.0
基于kriton/greek-text-summarization的静态量化版本,专注于希腊语文本摘要任务
文本生成
其他
G
mradermacher
216
0
VISION 1 GGUF
VISION-1是一个基于transformers的内容审核与安全分类模型,专注于文本分类任务。
文本分类
英语
V
mradermacher
153
2
Parler Tts Mini V1 GGUF
Apache-2.0
Parler TTS Mini v1的GGUF格式模型文件,用于文本转语音任务,支持英文语言。
语音合成
英语
P
ecyht2
198
4
Bge Reranker Base Q8 0 GGUF
MIT
该模型是从BAAI/bge-reranker-base转换而来的GGUF格式模型,主要用于文本重排序任务。
文本嵌入
支持多种语言
B
xinming0111
106
1
Glm Edge V 5b Gguf
其他
Glm-Edge-V-5B-GGUF是一个支持中英文的多语言图文生成文本模型,基于GLM架构开发。
大型语言模型
支持多种语言
G
THUDM
486
7
T5 Large Q4 K M GGUF
Apache-2.0
本模型是google-t5/t5-large的GGUF格式转换版本,支持摘要生成、翻译等任务,适用于英语、法语、罗马尼亚语、德语等多种语言。
大型语言模型
支持多种语言
T
tianlp
16
0
Chromafur Alpha Gguf
其他
ChromaFur Alpha 是一个文本生成图像的模型,已转换为GGUF格式,适用于低端GPU或偏好快速加载的用户。
图像生成
C
WWizrd
13
1
Yi Coder 1.5B Chat GGUF
Yi-Coder-1.5B-Chat-GGUF 是 01-ai/Yi-Coder-1.5B-Chat 的 GGUF 格式模型文件,适用于文本生成任务。
大型语言模型
Y
MaziyarPanahi
254.78k
10
Phi 3.5 Mini Instruct GGUF
Phi-3.5-mini-instruct的GGUF格式模型文件,适用于文本生成任务。
大型语言模型
P
MaziyarPanahi
335.88k
13
FLUX.1 Dev Q8 Fp16 Fp32 Mix 8 To 32 Bpw Gguf
其他
Flux.1-dev的实验性GGUF格式转换版本,包含多种混合精度量化方案
文本生成图像
F
mo137
257
12
Madlad400 3b Mt Q8 0 GGUF
Apache-2.0
MADLAD-400 3B多语言翻译模型,支持超过400种语言的翻译任务,基于GGUF格式优化。
机器翻译
支持多种语言
M
mtsdurica
47
1
Yes
Apache-2.0
这是一个基于PubMedQA数据集微调的Llama3模型,专注于医学领域的问答任务。
大型语言模型
英语
Y
ThorBaller
22
1
Llama 3 Smaug 8B GGUF
基于abacusai/Llama-3-Smaug-8B的GGUF格式量化模型,支持2-8比特量化级别,适用于文本生成任务
大型语言模型
L
MaziyarPanahi
8,904
5
Bielik 7B Instruct V0.1 GGUF
这是一个波兰语的7B参数指令微调模型,基于SpeakLeash的Bielik-7B-v0.1模型开发,采用GGUF格式量化。
大型语言模型
其他
B
speakleash
951
14
Gemma 2b It GGUF
其他
Gemma 2B模型的GGUF量化版本,适用于本地部署和推理
大型语言模型
G
MaziyarPanahi
517
10
Sqlcoder 7b 2 GGUF
这是defog/sqlcoder-7b-2模型的GGUF格式量化版本,主要用于SQL代码生成任务。
大型语言模型
S
MaziyarPanahi
346
10
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers

支持多种语言
L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers

英语
C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统
中文
R
uer
2,694
98
AIbase是一个专注于MCP服务的平台,为AI开发者提供高质量的模型上下文协议服务,助力AI应用开发。
简体中文