低资源量化
Qwen2 Audio 7B Instruct I1 GGUF
Apache-2.0
Qwen2-Audio-7B-Instruct的加权/矩阵量化模型,支持英文音频文本转文本任务
文本生成音频
Transformers
英语
Q
mradermacher
282
0
Whiterabbitneo WhiteRabbitNeo V3 7B GGUF
Apache-2.0
基于WhiteRabbitNeo-V3-7B的Llamacpp imatrix量化版本,专注于网络安全和DevOps任务,支持代码生成。
大型语言模型
W
bartowski
1,166
2
Qwenstoryteller I1 GGUF
Apache-2.0
QwenStoryteller是一个基于视觉语言模型的讲故事模型,专注于视觉叙事和跨帧一致性。
图像生成文本
英语
Q
mradermacher
340
0
Andrewzh Absolute Zero Reasoner Coder 14b GGUF
基于andrewzh的Absolute_Zero_Reasoner-Coder-14b模型,使用llama.cpp进行imatrix量化的版本,适用于推理和代码生成任务。
大型语言模型
A
bartowski
1,995
5
Clinician Note 2.0a I1 GGUF
Clinician-Note-2.0a 是一个专注于医学领域的文本生成模型,特别设计用于临床记录和摘要任务。
大型语言模型
英语
C
mradermacher
352
0
Qwen3 235B A22B INT4 W4A16
Apache-2.0
Qwen3是通义千问系列最新一代大语言模型,235B参数混合专家(MoE)模型,经INT4量化后显著降低内存占用
大型语言模型
Transformers
Q
justinjja
4,234
6
Burtenshaw GemmaCoder3 12B GGUF
基于burtenshaw/GemmaCoder3-12B的量化版本,专为代码生成任务优化,支持多种量化级别以适应不同硬件需求。
大型语言模型
B
bartowski
9,066
8
STEVE R1 7B SFT I1 GGUF
Apache-2.0
这是对Fanbin/STEVE-R1-7B-SFT模型进行的加权/矩阵量化版本,适用于资源受限环境。
文本生成图像
英语
S
mradermacher
394
0
Gemma 2 2b Jpn It Translate I1 GGUF
基于webbigdata/gemma-2-2b-jpn-it-translate的量化版本,专注于日语和英语之间的翻译任务
机器翻译
支持多种语言
G
mradermacher
182
1
Speechless Llama3.2 V0.1 I1 GGUF
Apache-2.0
这是对Menlo/Speechless-llama3.2-v0.1模型进行加权/重要性矩阵量化的结果,提供多种量化版本
大型语言模型
支持多种语言
S
mradermacher
395
0
Toriigate V0.4 7B I1 GGUF
Apache-2.0
这是对Minthy/ToriiGate-v0.4-7B模型进行的加权/重要性矩阵量化版本,提供多种量化选项以适应不同需求。
图像生成文本
英语
T
mradermacher
410
1
Tifa DeepsexV2 7b MGRPO Safetensors GGUF
Apache-2.0
Tifa-DeepsexV2-7b-MGRPO-safetensors 是一个基于 transformers 库的多语言(中文和英语)大语言模型,经过增量预训练、监督微调和强化学习优化,适用于角色扮演和思维链任务。
大型语言模型
支持多种语言
T
mradermacher
283
1
Dolphin3.0 Llama3.2 3B GGUF
基于Llama3.2架构的3B参数大语言模型,支持英文文本生成任务,采用llama.cpp进行imatrix量化
大型语言模型
英语
D
bartowski
5,665
15
C4ai Command R7b 12 2024 Abliterated GGUF
这是c4ai-command-r7b-12-2024-abliterated模型的量化版本,使用llama.cpp进行量化,支持多种量化类型,适用于不同硬件环境。
大型语言模型
支持多种语言
C
bartowski
867
13
Noticia 7B GGUF
Apache-2.0
NoticIA-7B是一个基于西班牙语的新闻摘要生成模型,专注于处理新闻内容并生成摘要。
大型语言模型
西班牙语
N
mradermacher
105
1
Ichigo Llama3.1 S Instruct V0.4 I1 GGUF
Apache-2.0
这是Menlo/Ichigo-llama3.1-s-instruct-v0.4模型的GGUF量化版本,适用于资源受限环境下的语音语言处理任务。
大型语言模型
英语
I
mradermacher
429
3
Ichigo Llama3.1 S Instruct V0.4 GGUF
Apache-2.0
基于Menlo/Ichigo-llama3.1-s-instruct-v0.4的静态量化模型,提供多种量化版本,适用于不同硬件需求。
大型语言模型
英语
I
mradermacher
369
1
Vntl Llama3 8b Gguf
VNTL LLaMA 3 8B qlora 是一个基于 LLaMA 3 8B 的合并模型,支持日语和英语翻译任务,并新增了聊天模式,适用于日语语法问题解答。
大型语言模型
支持多种语言
V
lmg-anon
243
8
Neuralstar AlphaWriter 4x7b
Apache-2.0
NeuralStar_AlphaWriter_4x7b是一个基于混合专家技术(MoE)构建的7B参数语言模型,专为创意写作任务优化,融合了四个擅长不同写作领域的专家模型。
大型语言模型
Transformers
N
OmnicromsBrain
21
10
Nyanade Stunna Maid 7B
其他
一个7B参数的合并模型,具备多模态能力,支持视觉功能
文本生成图像
N
Nitral-AI
54
11
C4ai Command R Plus GGUF
适用于llama.cpp的GGUF权重文件,支持对话模板和重要性矩阵量化。
大型语言模型
C
pmysl
12.82k
40
Mambahermes 3B GGUF
基于Mamba架构的3B参数语言模型,专注于高效文本生成任务
大型语言模型
M
dranger003
60
16
Persianmind V1.0
波斯心智是一个跨语言的波斯语-英语大语言模型,由德黑兰大学团队开发,在多项波斯语任务中表现优异。
大型语言模型
Transformers
支持多种语言
P
universitytehran
212.04k
64
Astrea RP V1 3B GGUF
其他
Astrea-RP-v1-3B是一个3B参数规模的大语言模型,通过任务算术合并了多个模型,专注于文本生成任务。
大型语言模型
英语
A
afrideva
138
3