AIbase

Llama.cpp兼容
Seed Coder 8B Reasoning Bf16 Q6 K GGUF
MIT
这是一个基于ByteDance-Seed/Seed-Coder-8B-Reasoning-bf16转换的GGUF格式模型，适用于代码生成和推理任务。
大型语言模型
S
GrimsenClory
100
1
3b De Ft Research Release Q4 K M GGUF
Apache-2.0
这是一个基于canopylabs/3b-de-ft-research_release模型转换的GGUF格式德语语言模型，适用于文本生成任务。
大型语言模型
德语
3
freddyaboulton
200
0
Slim Orpheus 3b JAPANESE Ft Q4 K M GGUF
Apache-2.0
这是一个基于slim-orpheus-3b-JAPANESE-ft模型转换的GGUF格式模型，专门针对日语文本处理进行了优化。
大型语言模型
日语
S
Gapeleon
40
0
Thedrummer Cydonia 24B V2.1 GGUF
其他
Cydonia-24B-v2.1是一个24B参数的大语言模型，经过llama.cpp的imatrix量化处理，提供多种量化版本以适应不同硬件需求。
大型语言模型
T
bartowski
4,417
7
Coderankembed Q8 0 GGUF
MIT
本模型是nomic-ai/CodeRankEmbed的GGUF格式转换版本，适用于代码相关任务。
文本嵌入
C
awhiteside
16
1
T5 Small Q4 K M GGUF
Apache-2.0
该模型是通过ggml.ai的GGUF-my-repo空间，使用llama.cpp从google-t5/t5-small转换至GGUF格式的量化版本。
机器翻译
支持多种语言
T
egrhfnfdg
25
0
Text Summarization Q4 K M GGUF
Apache-2.0
这是一个基于Falconsai/text_summarization模型转换而来的GGUF格式文本摘要模型，适用于使用llama.cpp进行推理。
文本生成
英语
T
tonyc666
16
0
Saiga Mistral 7b Gguf
Apache-2.0
基于Mistral架构的7B参数俄语大语言模型，支持文本生成任务
大型语言模型
其他
S
IlyaGusev
1,042
87