NVIDIA OpenReasoning - Nemotron - 32B的量化版本，通过llama.cpp进行量化处理，减少模型存储和计算资源需求，便于部署。

这是NVIDIA的OpenReasoning-Nemotron-14B模型的量化版本，旨在提升模型在不同硬件上的运行效率和性能。

这是一个基于Gemma 3 27B模型的量化版本，专门用于生成黑客新闻（Hacker News）评论的摘要。

这是一个文本排序模型，用于对文本进行重新排序和评分，以提高搜索结果的相关性。

OlympicCoder-7B是一个专注于代码生成的7B参数大语言模型，基于open-r1/OlympicCoder-7B进行llama.cpp量化，支持多种量化级别选择。

Stable Diffusion XL的GGUF格式量化版本，提供不同量化级别以适应不同硬件配置。

基于llama.cpp的70B参数大语言模型量化版本，提供多种量化选项以适应不同硬件条件

这是castorini/rank_zephyr_7b_v1_full模型的GGUF量化版本，适用于文本排序任务。

这是对meta-llama/Llama-Guard-3-8B进行Llama.cpp imatrix量化后的项目，提供了不同量化类型的文件，方便用户根据自身需求进行选择和使用。

基于Meta LLaMA-3 70B的指令微调模型，经过量化处理，适用于本地部署和高效推理。