Moondream是一款轻量级视觉语言模型，专为高效全平台运行而设计。

Falcon-E是由TII开发的1.58比特量化语言模型，采用纯Transformer架构，专为高效推理设计

Phi-4-mini-instruct模型经torchao进行float8动态激活和权重量化，在H100上实现36%显存降低和15-20%速度提升，几乎不影响精度。

Qwen2.5-VL-7B-Instruct-GPTQ-Int4是基于Qwen2.5-VL-7B-Instruct模型进行非官方GPTQ-Int4量化的版本，支持图文到文本的多模态任务。

基于Llama-3.2-3B预训练模型的指令微调版本，采用4比特量化和LoRA技术进行高效微调

Flux.1 Lite是从FLUX.1-dev模型蒸馏而来的80亿参数Transformer模型，减少了7GB内存占用，运行速度提升23%，同时保持原始模型精度。

Llama-3.2-3B-Instruct的FP8量化版本，适用于多语言的商业和研究用途，特别适合类似助手的聊天场景。

基于Mistral社区Pixtral-12B的4位量化版本，专注于图像文本到文本任务，支持中文描述生成

MADLAD-400-10B-MT 是一个多语言翻译模型，支持多种语言之间的翻译任务。

这是专为繁体中文优化的Tinyllama持续预训练版本，基于TinyLlama-1.1B模型，持续预训练数据集包含约20亿个词元。

基于bigscience/bloom-1b7架构开发的中文语言模型，参数规模14亿，通过压缩词表降低显存占用