Devstral-Small-2505的量化版本，提供多种精度选择以适应不同硬件需求

这是一个非常小巧且快速的日语重排序模型，适用于提升RAG系统的精度，在CPU或边缘设备上也能高效运行。

GLM-Z1-9B-0414 是一个支持中英双语的文本生成模型，采用 GGUF 格式，适用于多种量化级别，从 BF16 到超低位量化（1-2 比特）。

采用IQ-DynamicGate技术的超低位量化(1-2比特)语言模型，适用于内存受限环境

Falcon-E-3B-Instruct 是一个基于1.58比特架构的高效语言模型，专为边缘设备优化，具有出色的推理能力和低内存占用。

Falcon-E-1B-Instruct 是一个基于1.58比特架构的高效语言模型，专为边缘设备优化，具有低内存占用和高性能的特点。

Falcon-E-1B-Base 是由 TII 开发的一个高效 1.58 位语言模型，采用纯 Transformer 架构，专为边缘设备优化设计。

基于Llama-3-8B-Instruct的IQ-DynamicGate超低位量化(1-2比特)模型，采用精度自适应量化技术，在保持极致内存效率的同时提升推理精度。

Glm-Edge-V-5B-GGUF是一个支持中英文的多语言图文生成文本模型，基于GLM架构开发。

FLUX.1-Canny-dev 是一个基于文本生成图像的模型，专注于图像生成任务。

GLM-Edge-V-2B是一个基于Pytorch框架的图像文本到文本模型，支持中文处理。

基于TinyLlama-1.1B-Chat-v1.0的混合模型，提供轻量级LLM解决方案

这是一个基于MIT/ast-finetuned-speech-commands-v2转换的OpenVINO优化版本，用于加速语音指令识别任务的推理运算。