IONOS Llama 3.3 70B Instruct FP8 是 Meta 的 Llama 3.3 70B Instruct 模型的优化版本，采用 FP8 量化技术提升性能和效率，适合生产环境部署。

这是Mistral-Small-3.2-24B-Instruct-2506模型的Llamacpp imatrix量化版本，提供多种量化类型以满足不同硬件需求。

自托管场景下最快最灵活的模型，通过滑动控制条可自由调节模型体积、推理延迟与质量平衡

这是一个基于mistralai/Mistral-Small-3.1-24B-Instruct-2503转换的GGUF格式模型，支持多语言文本生成任务。

Llama-4-Scout-17B-16E-Instruct 是一个多语言指令微调模型，支持多种语言，可通过 LlamaEdge 运行。

EuroLLM-9B-Instruct是一个多语言指令跟随大语言模型，支持40+种语言，特别优化了欧洲语言处理能力。

由IST奥地利开发的Mistral-7B-Instruct-v0.3量化模型，采用GPTQ技术进行8位量化，适用于多语言文本生成任务。

Mixtral 8X7B Instruct v0.1 - AWQ是基于Mixtral模型的量化版本，采用AWQ量化方法，在保证精度的同时提升推理速度和降低内存需求。