AIbase

4比特量化
Moondream 2b 2025 04 14 4bit
Apache-2.0
Moondream是一款轻量级视觉语言模型，专为高效全平台运行而设计。
图像生成文本
Safetensors
M
moondream
6,037
38
Qwen3 4B Rpg Roleplay
Apache-2.0
基于千问3-4B模型微调的角色扮演对话模型，擅长生成符合角色特征的连贯对话
大型语言模型
英语
Q
Chun121
1,657
6
Mistral 7B Instruct V0.3 Forensics V1
本模型是基于Mistral-7B-Instruct-v0.3优化的微调版本，专为法医调查领域的问答任务设计，支持高级法医调查推理和快速知识检索。
大型语言模型
Transformers
M
gerasmark
28
2
Hidream I1 Full Nf4
MIT
HiDream-I1是拥有170亿参数的开源图像生成基础模型，可在数秒内生成达到业界顶尖水平的图像。
图像生成
H
azaneko
16.95k
38
Hidream I1 Fast Nf4
MIT
HiDream-I1是拥有170亿参数的开源图像生成基础模型，4比特量化版本可在16GB显存下运行，实现快速高质量的图像生成。
图像生成
H
azaneko
19.22k
7
Hidream I1 Dev Nf4
MIT
HiDream-I1是拥有170亿参数的开源图像生成基础模型，能在数秒内生成达到业界顶尖水平的图像。
图像生成
H
azaneko
23.29k
12
Qwen2.5 Omni 7B GPTQ 4bit
MIT
基于Qwen2.5-Omni-7B模型的4比特GPTQ量化版本，支持多语言和多模态任务。
多模态融合
Safetensors
支持多种语言
Q
FunAGI
3,957
51
Travelbot
Apache-2.0
基于Unsloth和Huggingface TRL库训练的Llama模型，推理速度提升2倍
大型语言模型
Transformers
英语
T
kitty528
9,146
2
Llama 3 2 3B SFT GGUF
MIT
基于Llama-3.2-3B预训练模型的指令微调版本，采用4比特量化和LoRA技术进行高效微调
大型语言模型
英语
L
SURESHBEEKHANI
53
1
Qwen2 7B Int4 Inc
Apache-2.0
基于Qwen2-7B的INT4自动量化模型，由英特尔auto-round工具生成，适用于高效推理任务
大型语言模型
Transformers
Q
Intel
48
6
Llama3 8B Medical
Apache-2.0
基于LLAMA-3-8B模型的医疗微调4比特量化版本，专为医疗问答设计
大型语言模型
Transformers
英语
L
ruslanmv
132
11
Evolcodellama 7b
Apache-2.0
基于CodeLlama-7b-hf模型，采用QLoRA（4比特精度）在Evol-Instruct-Python-1k数据集上微调而成的代码生成模型
大型语言模型
Transformers
E
mlabonne
34
6