AIbase

多量化版本适配
Thedrummer Rivermind Lux 12B V1 GGUF
这是一个12B参数的大语言模型，经过llama.cpp的imatrix量化处理，提供多种量化版本以适应不同硬件需求。
大型语言模型
T
bartowski
1,353
1
Mlabonne Qwen3 0.6B Abliterated GGUF
这是一个基于Qwen3-0.6B-abliterated模型的量化版本，使用llama.cpp进行量化，适用于文本生成任务。
大型语言模型
M
bartowski
1,455
2
Qwen Qwen3 0.6B GGUF
Qwen团队提供的Qwen3-0.6B的Llamacpp imatrix量化版本，使用llama.cpp进行量化，支持在LM Studio或基于llama.cpp的项目中运行。
大型语言模型
Q
bartowski
10.24k
14
Thedrummer Cydonia 24B V2.1 GGUF
其他
Cydonia-24B-v2.1是一个24B参数的大语言模型，经过llama.cpp的imatrix量化处理，提供多种量化版本以适应不同硬件需求。
大型语言模型
T
bartowski
4,417
7
Nera Noctis 12B GGUF
其他
Nera_Noctis-12B的Llamacpp imatrix量化版本，基于Nitral-AI/Nera_Noctis-12B模型，支持英文文本生成任务。
大型语言模型
英语
N
bartowski
64
6
Mistral Evolved 11b V0.1 GGUF
Apache-2.0
Mistral-Evolved-11b-v0.1的量化版本，使用llama.cpp进行量化，提供多种量化选项以适应不同需求。
大型语言模型
M
bartowski
1,761
7