低比特量化

# 低比特量化

Midm 2.0 Base Instruct GGUF

Mi:dm 2.0是KT开发的韩国中心AI模型，深入内化了韩国社会独特的价值观和认知框架，提供高效的文本生成服务。

大型语言模型

Transformers 支持多种语言

Xlam 2 3b Fc R GGUF

xLAM-2-3b-fc-r GGUF模型是基于特定量化方法生成的文本生成模型，专注于函数调用、LLM代理和工具使用场景。

大型语言模型

Transformers 英语

Llama OuteTTS 1.0 1B 3bit

这是一个基于MLX格式的3位量化文本转语音模型，支持多种语言。

Safetensors 支持多种语言

Spaetzle V60 7b

Spaetzle-v60-7b是一个渐进式合并模型，主要采用dare-ties方法，部分使用slerp，旨在为英语和德语本地任务提供合适的折衷方案。

大型语言模型

Transformers 支持多种语言

Lemonaderp 4.5.3 4bpw Exl2

专注于角色扮演的7B模型，此合并版本的核心在于提升创造力和减少陈词滥调。

大型语言模型

Transformers 英语

精选推荐AI模型

Qwen2.5 VL 7B Abliterated Caption It I1 GGUF

Qwen2.5-VL-7B-Abliterated-Caption-it的量化版本，支持多语言图像描述任务。

图像生成文本

Transformers 支持多种语言

Nunchaku Flux.1 Dev Colossus

Colossus Project Flux 的 Nunchaku 量化版本，旨在根据文本提示生成高质量图像。该模型在优化推理效率的同时，将性能损失降至最低。

图像生成英语

Qwen2.5 VL 7B Abliterated Caption It GGUF

这是一个基于Qwen2.5-VL-7B模型的静态量化版本，专注于图像描述生成任务，支持多种语言。

图像生成文本

Transformers 支持多种语言

Olmocr 7B 0725 FP8

olmOCR-7B-0725-FP8是基于Qwen2.5-VL-7B-Instruct模型，使用olmOCR-mix-0225数据集微调后量化为FP8版本的文档OCR模型。

图像生成文本

Transformers 英语

Lucy-128k是基于Qwen3-1.7B开发的专注于代理式网络搜索和轻量级浏览的模型，在移动设备上也能高效运行。

大型语言模型

Transformers 英语

AIbase

智启未来，您的人工智能解决方案智库

© 2025AIbase 备案号：闽ICP备08105208号-24