Qwen3-4B是Qwen系列最新一代的大语言模型，具有4B参数规模，支持128k上下文窗口和100多种语言，在推理、指令遵循和代理能力方面表现优异。

Qwen3-1.7B-Q8_0-GGUF是基于Qwen/Qwen3-1.7B转换的GGUF格式模型，支持文本生成任务，具备多语言支持和高效的推理能力。

这是一个通过SLERP方法融合的12B参数规模的多语言大语言模型，支持英文和日文处理。

本仓库包含JungZoona/T3Q-qwen2.5-14b-v1.0-e3的GGUF格式模型文件，由TensorBlock提供的机器进行量化，兼容llama.cpp。

MiniCPM-S-1B-sft 是一个基于激活稀疏化技术优化的1B参数规模语言模型，通过ProSparse方法实现高稀疏性推理加速，同时保持与原始模型相当的性能。

Qwen2.5是Qwen大语言模型的最新系列，1.5B参数规模的指令调优模型，支持多语言和长文本生成。

Kyro-n1.1是Kyro-n1的增强版本，基于Qwen2.5-7B-Instruct构建，优化了推理能力、理解能力和响应精准度。

Meta Llama 3.1系列是多语言大语言模型（LLMs）的集合，包括8B、70B和405B大小的预训练和指令调优生成模型。

弹性模型是由TheStage AI ANNA生成的模型系列，通过滑动控制条可自由调节模型规模、延迟与质量，为自托管场景提供最快最灵活的解决方案。

HMS-Slerp-12B 是一个采用SLERP球面线性插值法合并的多语言聊天模型，支持英语和日语。

基于ElvenMaid-12B系列模型合并的ChatML格式语言模型，支持英文和日文

Phi-4-mini-instruct模型经torchao进行float8动态激活和权重量化，在H100上实现36%显存降低和15-20%速度提升，几乎不影响精度。

ElvenMaid-12B 是一个基于 ChatML 格式的 12B 参数语言模型，通过 mergekit 工具合并多个预训练模型而成，支持英文和日文交互。

Himeyuri-Magnum-12B 是一个基于 ChatML 格式的多语言预训练语言模型，通过 mergekit 工具合并多个 12B 参数规模的模型而成。

基于Phi 4架构的大型语言模型，拥有140亿参数，针对自然语言处理和文本对话任务进行了优化。

Trillion-7B预览版是一款多语言大语言模型，支持英语、韩语、日语和中文，在计算效率和性能表现上优于同类7B规模模型。

Trillion-7B预览版是一款多语言大型语言模型，支持英语、韩语、日语和中文，在保持较低计算量的同时实现了与更高计算量模型竞争的性能。

基于ChatML架构的对话模型，通过mergekit工具合并预训练语言模型生成

Kyro-n1.1是Kyro-n1的增强版本，基于Qwen2.5-7B-Instruct构建，优化了推理能力、理解力和响应精准度。

专为越南语推理优化的多语言微调模型，具备分步推理能力，采用结构化XML格式

基于SCE方法合并的多语言ChatML模型，支持英文和日文对话

Fibonacci-1-EN-8b-Chat.P1_5是基于LLaMA架构的大型语言模型，具有80.3亿参数，针对自然语言处理任务和文本对话进行了优化。

基于ozone-ai/0x-lite模型的量化版本，支持中英文文本生成任务，采用llama.cpp进行imatrix量化，提供多种量化选项以适应不同硬件需求。

Razorback 12B v0.2 是一个结合了Pixtral 12B和UnslopNemo v3优势的多模态模型，具备视觉理解和语言处理能力。

OpenBuddy/openbuddy-deepseek-10b-v17.1-4k的GGUF格式模型文件，支持多种语言，适用于文本生成任务。

Llama 3.3 70B Instruct AWQ INT4 是 Meta Llama 3.3 70B Instruct 模型的 4 位量化版本，适用于多语言对话用例，优化了文本生成任务。

GLM-4-9B是智谱AI推出的GLM-4系列最新一代预训练模型的开源版本，具备卓越的语义、数学、推理、代码和知识能力。

首个Qwen2.5 32B微调版本，旨在修复其过度审查炎症问题，支持多语言交互。

基于Qwen/Qwen2.5-7B模型在多语言数据集上微调的大语言模型，支持13种语言处理

Meta Llama 3.1 8B Instruct 是一个多语言大语言模型，针对多语言对话用例进行了优化，在常见的行业基准测试中表现优异。

这是一个基于internlm2_5-20b-chat模型进行消融处理的版本，使用CPU进行消融处理的新方法。

这是Meta-Llama-3.1-8B-Instruct模型的INT4量化版本，使用GPTQ算法进行量化，适用于多语言对话场景。

Meta Llama 3.1 8B 指令调优模型的 GGUF 量化版本，适用于多语言对话场景

Llama 3.1 70B Instruct的INT4量化版本，基于AutoAWQ技术优化，适用于多语言对话场景。

Llama 3.1 8B Instruct的INT4量化版本，基于AutoAWQ工具进行量化，适用于多语言对话场景。

DeepSeek-V2-Chat 的 GGUF 量化版本，适用于本地部署和运行。

Cymist2-v0.1是由Cypien AI团队开发的先进语言模型，专为土耳其语和英语的文本生成任务优化，支持检索增强生成(RAG)和监督微调(SFT)。

Yuna AI是一个设计用于情感连接的虚拟伴侣模型，提供超越传统助手的深度互动体验。

Bllossom是基于Llama3的韩英双语语言模型，通过全面调优增强韩语能力，扩展了韩语词汇并优化了韩语上下文处理能力。

Suzume 8B是基于Llama 3的多语言微调版本，在近90,000个多语言对话上进行训练，增强了多语言交流能力，同时保持了Llama 3的智能水平。