量化高效推理
Medra4b I1 GGUF
Apache-2.0
Medra4b是基于医疗数据集微调的多语言(英语和罗马尼亚语)文本生成模型,专注于医疗领域应用。
大型语言模型
Transformers
支持多种语言
M
mradermacher
289
0
Medra4b GGUF
Apache-2.0
Medra4b是一个基于医疗领域的量化语言模型,支持英文和罗马尼亚文,专注于文本生成和摘要任务。
大型语言模型
Transformers
支持多种语言
M
mradermacher
152
0
Medgemma 4b It Q8 0 GGUF
其他
MedGemma-4B-it-Q8_0-GGUF 是基于 google/medgemma-4b-it 转换而来的 GGUF 格式模型,专为医疗领域的图像文本到文本任务设计。
图像生成文本
Transformers
M
NikolayKozloff
142
2
Arxiver Insightsumm T5 Finetuned Model GGUF
Apache-2.0
基于T5架构的静态量化模型,专注于学术论文摘要生成任务
文本生成
英语
A
mradermacher
131
0
Clinician Note 2.0a GGUF
Clinician-Note-2.0a是一个专注于医学领域的文本生成模型,特别适用于AI辅助临床记录和摘要生成。
大型语言模型
英语
C
mradermacher
644
0
Medra I1 GGUF
Apache-2.0
Medra是基于医疗领域数据集微调的量化语言模型,专注于医疗问答和摘要生成任务。
大型语言模型
支持多种语言
M
mradermacher
369
0
Deepseek Qwen2.5 14B DeepThinker V2
MIT
DeepThinkerv2是一个具备深度数学推理能力的大语言模型,通过递归思考模式和多重验证机制提升解题准确性。
大型语言模型
英语
D
Vijayendra
113
2
Granite 3.3 8b Instruct Q8 0 GGUF
Apache-2.0
该模型是基于IBM Granite-3.3-8B指令微调模型转换而来的GGUF格式模型,适用于文本生成任务。
大型语言模型
G
NikolayKozloff
36
2
3b Fr Ft Research Release Q4 K M GGUF
Apache-2.0
这是一个基于canopylabs/3b-fr-ft-research_release模型转换的GGUF格式法语语言模型,适用于文本生成任务。
大型语言模型
法语
3
freddyaboulton
173
1
Gemma 3 27b It Qat Autoawq
Gemma 3是Google推出的轻量级前沿开放模型系列,基于与Gemini相同技术构建,支持多模态输入(文本/图像)和文本输出。
图像生成文本
G
gaunernst
789
4
Gemma 3 12b It Qat Autoawq
Gemma 3是Google基于Gemini技术构建的轻量级开放模型系列,支持多模态输入和文本输出。
图像生成文本
G
gaunernst
498
3
Gemma 3 12b It Q5 K M GGUF
这是由google/gemma-3-12b-it转换而来的GGUF格式模型,适用于llama.cpp框架。
大型语言模型
G
NikolayKozloff
46
1
Qwen2.5 14B CIC ACLARC GGUF
Apache-2.0
这是一个基于Qwen2.5-14B-Instruct模型进行量化处理的版本,专门用于引文意图分类任务。
大型语言模型
英语
Q
sknow-lab
42
1
Opencerebrum 1.0 7b SFT GGUF
Apache-2.0
OpenCerebrum-1.0-7b-SFT是一个基于Locutusque/OpenCerebrum-1.0-7b-SFT的静态量化模型,支持多种量化版本,适用于代码生成、数学、化学、生物学等领域的文本生成和问答任务。
大型语言模型
支持多种语言
O
mradermacher
162
1
Dermatech Qwen2 VL 2B GGUF
这是一个基于Qwen2架构的多模态模型,支持文本生成、图像转文本和视觉问答任务,提供多种量化版本以适应不同需求。
图像生成文本
英语
D
mradermacher
42
0
Qwen2 VL 7B Instruct GGUF
Apache-2.0
Qwen2-VL-7B-Instruct 是一个7B参数规模的多模态模型,支持图像与文本的交互任务。
图像生成文本
英语
Q
gaianet
102
2
Qwen2 VL 7B Instruct GGUF
Apache-2.0
Qwen2-VL-7B-Instruct 是一个多模态视觉语言模型,支持图像和文本的联合理解与生成任务。
图像生成文本
英语
Q
second-state
195
4
Mistral 7B OpenOrca Q4 K M GGUF
Apache-2.0
该模型是基于Open-Orca/Mistral-7B-OpenOrca转换而来的GGUF格式模型,适用于文本生成任务。
大型语言模型
英语
M
munish0838
81
2
Finance LLM GGUF
其他
Finance LLM 是一个专注于金融领域的语言模型,基于 Llama 架构,经过 OpenOrca、Lima 和 WizardLM 等数据集的微调。
大型语言模型
英语
F
TheBloke
641
21
Tinyllama 1.1B Chat V0.6 GGUF
Apache-2.0
TinyLlama-1.1B-Chat-v0.6 是一个轻量级的聊天模型,基于1.1B参数的Llama架构,专为对话任务优化。
大型语言模型
英语
T
afrideva
128
9