Phi 2 GGUF
MIT
phi-2 是一个采用 IQ-DynamicGate 超低比特量化(1-2 比特)的文本生成模型,适用于自然语言处理和代码生成任务。
大型语言模型
支持多种语言
P
Mungert
472
2
Orpheus 3b 0.1 Ft GGUF
Apache-2.0
基于Llama-3-8B架构优化的超低比特量化模型,采用IQ-DynamicGate技术实现1-2比特精度自适应量化,适用于内存受限环境。
大型语言模型
英语
O
Mungert
1,427
1
Olympiccoder 32B GGUF
Apache-2.0
OlympicCoder-32B是基于Qwen2.5-Coder-32B-Instruct的代码生成模型,采用IQ-DynamicGate超低位量化技术,适用于内存受限环境下的高效推理。
大型语言模型
英语
O
Mungert
361
3
Bert Emotion
Apache-2.0
BERT-Emotion 是一款基于 bert-lite 和 NeuroBERT-Mini 的轻量级自然语言处理模型,专为边缘和物联网设备上的短文本情绪检测而优化。
文本分类
Transformers

B
boltuix
369
13
EXAONE Deep 32B GGUF
其他
EXAONE-Deep-32B是一个32B参数的大语言模型,支持英语和韩语,专为文本生成任务设计。
大型语言模型
支持多种语言
E
Mungert
2,249
3
Llama 3.1 Nemotron Nano 8B V1 GGUF
其他
基于Llama-3架构的8B参数模型,采用IQ-DynamicGate超低比特量化技术优化内存使用
大型语言模型
英语
L
Mungert
2,088
4
EXAONE Deep 7.8B GGUF
其他
采用IQ-DynamicGate技术的超低位量化(1-2比特)的7.8B参数模型,支持英语和韩语文本生成任务。
大型语言模型
支持多种语言
E
Mungert
1,791
5
Mistral Small 3.1 24B Instruct 2503 GGUF
Apache-2.0
这是一个基于 Mistral-Small-3.1-24B-Base-2503 的指令微调模型,采用 GGUF 格式和 IQ-DynamicGate 超低比特量化技术。
大型语言模型
支持多种语言
M
Mungert
10.01k
7
Qwen2.5 7B Instruct 1M GGUF
Apache-2.0
Qwen2.5-7B-Instruct-1M是基于Qwen2.5-7B的指令微调版本,采用IQ-DynamicGate超低位量化技术(1-2比特),适用于内存受限环境下的高效推理。
大型语言模型
英语
Q
Mungert
1,342
4
Llama 3.1 8B Instruct GGUF
Llama-3.1-8B-Instruct 是基于 Llama-3-8B 的指令调优版本,采用 IQ-DynamicGate 技术进行超低位量化(1-2 比特),在保持内存效率的同时提升准确性。
大型语言模型
支持多种语言
L
Mungert
1,073
3
Mistral 7B Instruct V0.2 GGUF
Apache-2.0
Mistral-7B-Instruct-v0.2是基于Mistral-7B架构的指令微调模型,支持文本生成任务,采用IQ-DynamicGate超低比特量化技术优化内存效率。
大型语言模型
M
Mungert
742
2
Reasonablellama3 3B Jr
基于LLaMA-3B构建的微调推理模型,增强推理能力,支持多语言处理
大型语言模型
支持多种语言
R
adeelahmad
1,173
6
Tiny Agent A 3B
其他
微型代理-α是基于Qwen2.5-Coder系列模型训练的轻量级AI代理,专为边缘设备设计,支持Pythonic函数调用方式。
大型语言模型
支持多种语言
T
driaforall
207
13
Comment Moderation
Openrail
基于DistilBERT架构构建的多标签内容审核系统,用于检测和分类用户评论中的潜在有害内容,具有高精度和轻量级特点。
文本分类
Transformers

英语
C
Vrandan
45.47k
1
Tiny Hinglish Chat 21M
MIT
一个微型印地英语混合对话文本补全模型,能够用印地英语(Hinglish)进行日常生活话题的对话。
对话系统
Transformers

英语
T
Abhishekcr448
178
4
Moondream Prompt
Apache-2.0
Moondream2的微调版本,专为图像提示生成优化,是一款轻量级视觉语言模型,适合在边缘设备高效运行。
图像生成文本
Transformers

M
gokaygokay
162
10
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers

支持多种语言
L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers

英语
C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统
中文
R
uer
2,694
98
AIbase是一个专注于MCP服务的平台,为AI开发者提供高质量的模型上下文协议服务,助力AI应用开发。
简体中文