Deepseek R1 Llama 8B F32 GGUF
Apache-2.0
DeepSeek-R1-Llama-8B-F32-GGUF 是 DeepSeek-R1-Distill-Llama-8B 的量化版本,采用强化学习直接训练,具备自我验证、反思和生成扩展思维链等能力。
大型语言模型
Transformers

英语
D
prithivMLmods
326
1
Nvidia AceReason Nemotron 7B GGUF
其他
AceReason-Nemotron-7B 是一个基于 Nemotron 架构的 7B 参数规模的大型语言模型,提供多种量化版本以适应不同硬件需求。
大型语言模型
N
bartowski
209
2
Devstral Small 2505 GGUF
Apache-2.0
Devstral-Small-2505的量化版本,提供多种精度选择以适应不同硬件需求
大型语言模型
支持多种语言
D
Antigma
170
1
A M Team AM Thinking V1 GGUF
Apache-2.0
基于a-m-team/AM-Thinking-v1模型的Llamacpp imatrix量化版本,支持多种量化类型,适用于文本生成任务。
大型语言模型
A
bartowski
671
1
Sam Reason S2.1 GGUF
MIT
Sam-reason-S2.1的静态量化版本,提供多种量化选项以适应不同硬件需求
大型语言模型
英语
S
mradermacher
299
1
Magtie V1 12B GGUF
Apache-2.0
MagTie-v1-12B的GGUF量化版本集合,通过mergekit工具合并预训练语言模型创建,适用于文本生成任务。
大型语言模型
Transformers

M
grimjim
373
2
Microsoft Phi 4 Reasoning GGUF
MIT
这是微软Phi-4-reasoning模型的量化版本,使用llama.cpp进行优化,适用于推理任务,支持多种量化选项。
大型语言模型
M
bartowski
5,443
4
Google Gemma 3 12b It Qat GGUF
基于Google QAT(量化感知训练)权重量化的Gemma-3-12b模型,提供多种量化版本以适应不同硬件需求。
大型语言模型
G
bartowski
10.78k
16
Llama 2 7b Chat Hf GGUF
Llama 2是由Meta开发的7B参数规模的大语言模型,提供多种量化版本以适应不同硬件需求。
大型语言模型
英语
L
Mungert
1,348
3
Deepseek R1 14b Cot Math Reasoning Full GGUF
MIT
14B参数规模的数学推理大语言模型,支持思维链推理
大型语言模型
D
tensorblock
838
2
Gemma 3 12b It GGUF
Gemma 3 12B 的 GGUF 量化版本,适用于文本生成任务。
大型语言模型
G
MaziyarPanahi
641.41k
4
Chroma GGUF
Apache-2.0
Chroma-GGUF 是一个基于 lodestones/Chroma 的量化模型集合,提供多种不同精度的量化版本,适用于不同的硬件和性能需求。
图像生成
C
silveroxides
8,529
20
Lacia Sum Small V1 GGUF
Lacia_sum_small_v1 是一个基于 T5 架构的静态量化模型,主要用于文本摘要生成任务。
文本生成
支持多种语言
L
mradermacher
312
1
VISION 1 GGUF
VISION-1是一个基于transformers的内容审核与安全分类模型,专注于文本分类任务。
文本分类
英语
V
mradermacher
153
2
FLUX.1 Fill Dev GGUF
其他
FLUX.1-Fill-dev 是一个基于 FLUX 技术的文本生成图像模型,专注于图像填充任务。
文本生成图像
英语
F
second-state
691
3
FLUX.1 Redux Dev GGUF
其他
FLUX.1-Redux-dev是基于FLUX技术栈的文本生成图像模型,支持英语语言,采用非商业许可证。
文本生成图像
英语
F
second-state
527
9
Stable Diffusion 2 1 GGUF
Stable Diffusion 2.1的GGUF量化版本,支持多种量化精度,适用于文本生成图像任务。
图像生成
S
second-state
682
4
GIGABATEMAN 7B GGUF
GIGABATEMAN-7B 是一个基于 Mistral 架构的 7B 参数大型语言模型,专注于文本生成任务。
大型语言模型
英语
G
mradermacher
115
3
Xwin LM 13B V0.1 GPTQ
Xwin-LM 13B V0.1是基于Llama2架构的大语言模型,由Xwin-LM团队开发。
大型语言模型
Transformers

X
TheBloke
868
18
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers

支持多种语言
L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers

英语
C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统
中文
R
uer
2,694
98
AIbase是一个专注于MCP服务的平台,为AI开发者提供高质量的模型上下文协议服务,助力AI应用开发。
简体中文