该模型是Bielik-4.5B-v3.0-Instruct的FP8量化版本，通过AutoFP8技术将权重和激活量化为FP8数据类型，减少约50%的磁盘空间和GPU内存需求。

这是一个基于Bielik-1.5B-v3.0-Instruct模型的FP8动态量化版本，适配vLLM或SGLang推理框架，通过AutoFP8量化技术将参数字节数从16位降至8位，显著降低磁盘空间和GPU显存需求。

这是一个基于Qwen2.5-VL-7B-Instruct模型的非官方GPTQ-Int3量化版本，适用于图像文本到文本的多模态任务。

QwQ-32B的4位量化版本，使用Bitsandbytes技术进行优化，适用于资源受限环境下的高效推理

这是Qwen2.5-VL-3B-Instruct模型的GPTQ-Int4量化版本，适用于图像文本到文本的多模态任务，支持中文和英语。

轻量级多模态模型，专为分析视频内容设计，可处理视频、图像和文本输入以生成文本输出。

SmolVLM2-256M-Video是一款轻量级多模态模型，专为分析视频内容而设计，能够处理视频、图像和文本输入并生成文本输出。

SmolVLM2-2.2B 是一款轻量级多模态模型，专为分析视频内容而设计，可处理视频、图像和文本输入并生成文本输出。

CogVideoX 是一个类似于清影的开源视频生成模型，支持高分辨率视频生成

Llama 3.1 8B Instruct的INT4量化版本，基于AutoAWQ工具进行量化，适用于多语言对话场景。

Dorna-Llama3-8B-Instruct的4位量化版本，针对波斯语优化，集成Flash Attention 2技术提升推理效率

RWKV-4是一种融合RNN与Transformer优势的大语言模型，具备高性能、快速推理和高效训练特点

MOSS是一个支持插件增强的开源对话语言模型，参数量160亿，支持中英文对话及工具调用能力。