8位量化

# 8位量化

Devstral Small 2507 MLX 8bit

Devstral-Small-2507是一个支持多语言文本生成的模型，针对苹果芯片进行了优化。

大型语言模型

Safetensors 支持多种语言

lmstudio-community

Deepseek R1 0528 Qwen3 8B MLX 8bit

基于DeepSeek-R1-0528-Qwen3-8B模型的8位量化版本，专为苹果Silicon芯片优化，适用于文本生成任务。

大型语言模型

lmstudio-community

Fastvlm 1.5B Stage3 MNN

FastVLM-1.5B-Stage3-MNN是基于Transformer架构的文本生成模型，是FastVLM-1.5B-Stage3的8位量化版本，适用于聊天等文本生成场景。

大型语言模型英语

Qwen3 32B 4bit DWQ

Qwen3-32B-8bit是基于Qwen3-32B模型量化的8位版本，适用于文本生成任务，由mlx-community发布。

大型语言模型

Orpheus 3b Korean FT Q8 0.gguf

Orpheus是一款高性能韩语文本转语音模型，专为自然情感语音合成而微调，提供8位量化版本以优化效率。

语音合成支持多种语言

Orpheus 3b French FT Q8 0.gguf

奥菲斯是一款高性能文本转语音模型，专为自然情感语音合成而微调。本仓库托管了30亿参数模型的8位量化版本，在保持高质量输出的同时优化了效率。

语音合成支持多种语言

Orpheus 3b Hindi FT Q8 0.gguf

俄耳甫斯是一款高性能文本转语音模型，专为自然情感语音合成而微调。本仓库托管了30亿参数模型的8位量化版本，在保持高质量输出的同时优化了效率。

语音合成其他

Orpheus 3b German FT Q8 0.gguf

Orpheus是一款高性能德语文本转语音模型，经过精调可实现自然且富有情感的语音合成。本模型是30亿参数模型的8位量化版本，优化了运行效率。

语音合成支持多种语言

Gemma 3 27b It Qat 8bit

Gemma 3 27B IT QAT 8bit 是一个基于 Google 的 Gemma 3 27B 模型转换而来的 MLX 格式模型，支持图文到文本的任务。

图像生成文本

Transformers 其他

Orpheus 3b 0.1 Pretrained 8bit

这是一个基于MLX框架的8位量化版本Orpheus-3B预训练语言模型，原始模型由CanopyLabs开发。

大型语言模型

Safetensors 英语

这是EleutherAI GPT-J 60亿参数模型的8位量化版本，专为在有限GPU资源（如Colab或1080Ti）上运行和微调而优化。

大型语言模型

Transformers 英语

精选推荐AI模型

Qwen2.5 VL 7B Abliterated Caption It I1 GGUF

Qwen2.5-VL-7B-Abliterated-Caption-it的量化版本，支持多语言图像描述任务。

图像生成文本

Transformers 支持多种语言

Nunchaku Flux.1 Dev Colossus

Colossus Project Flux 的 Nunchaku 量化版本，旨在根据文本提示生成高质量图像。该模型在优化推理效率的同时，将性能损失降至最低。

图像生成英语

Qwen2.5 VL 7B Abliterated Caption It GGUF

这是一个基于Qwen2.5-VL-7B模型的静态量化版本，专注于图像描述生成任务，支持多种语言。

图像生成文本

Transformers 支持多种语言

Olmocr 7B 0725 FP8

olmOCR-7B-0725-FP8是基于Qwen2.5-VL-7B-Instruct模型，使用olmOCR-mix-0225数据集微调后量化为FP8版本的文档OCR模型。

图像生成文本

Transformers 英语

Lucy-128k是基于Qwen3-1.7B开发的专注于代理式网络搜索和轻量级浏览的模型，在移动设备上也能高效运行。

大型语言模型

Transformers 英语

AIbase

智启未来，您的人工智能解决方案智库

© 2025AIbase 备案号：闽ICP备08105208号-24