# 低精度高效推理

Mistral Small 3.2 24B Instruct 2506 Bf16
Apache-2.0
这是一个基于Mistral-Small-3.2-24B-Instruct-2506转换的MLX格式模型,适用于指令跟随任务。
大型语言模型 支持多种语言
M
mlx-community
163
1
Internvl3 8B 6bit
其他
InternVL3-8B-6bit 是一个基于 MLX 格式转换的视觉语言模型,支持多语言图像文本到文本的任务。
图像生成文本 Transformers 其他
I
mlx-community
70
1
Spacethinker Qwen2.5VL 3B GGUF
Apache-2.0
SpaceThinker-Qwen2.5VL-3B是一个3B参数的多模态视觉语言模型,专注于空间推理和视觉问答任务。
文本生成图像 英语
S
mradermacher
313
1
Llama 4 Maverick 17B 128E Instruct FP8
其他
Llama 4系列是Meta开发的多模态AI模型,支持文本与图像交互,采用混合专家架构(MoE),在文本和图像理解方面具有行业领先性能。
文本生成图像 Transformers 支持多种语言
L
meta-llama
64.29k
107
Deepseek R1 GGUF
MIT
DeepSeek-R1是由Unsloth优化的1.58-bit动态量化大语言模型,采用MoE架构,支持英语任务处理
大型语言模型 英语
D
unsloth
2.0M
1,045
Coreml Sam2.1 Tiny
Apache-2.0
SAM 2.1 Tiny 是 Facebook AI Research (FAIR) 推出的轻量级图像与视频通用分割模型,支持基于提示的可控视觉分割。
图像分割
C
apple
68
6
Moondream2 Llamafile
Apache-2.0
moondream2是一款小型视觉语言模型,专为在边缘设备上高效运行而设计,通过llamafile格式提供便捷部署。
图像生成文本
M
cjpais
310
30
Mixtral AI CyberCoder 7b
Apache-2.0
这是一个专注于代码生成和应用程序开发的合并模型,基于多个高质量模型融合而成
大型语言模型 Transformers 其他
M
LeroyDyer
46
4
Qwen 7B Chat GPTQ
阿里云研发的70亿参数规模大语言模型,基于Transformer架构,支持中英双语和代码处理,具备多轮对话能力。
大型语言模型 Transformers 支持多种语言
Q
openerotica
26
5
Noggles 5400fp16
Openrail
这是一个基于稳定扩散技术的文本生成图像模型,使用Dreambooth方法训练。
图像生成
N
alx-ai
20
0
AIbase
智启未来,您的人工智能解决方案智库
简体中文