库名称：transformers
许可证：apache-2.0
语言：

• 英文
  基础模型：saheedniyi/YarnGPT
  流水线标签：文本转语音
  标签：
• TensorBlock
• GGUF

saheedniyi/YarnGPT - GGUF

本仓库包含saheedniyi/YarnGPT的GGUF格式模型文件。

这些文件由TensorBlock提供的机器进行量化，并与commit b4823版本的llama.cpp兼容。

我们的项目

Awesome MCP Servers	TensorBlock Studio
一个全面的模型上下文协议（MCP）服务器合集。	一个轻量级、开放且可扩展的多LLM交互工作室。
👀 看看我们构建了什么 👀	👀 看看我们构建了什么 👀

提示模板

模型文件规格

下载指南

命令行

首先，安装Huggingface客户端

pip install -U "huggingface_hub[cli]"  

然后，将单个模型文件下载到本地目录

huggingface-cli download tensorblock/YarnGPT-GGUF --include "YarnGPT-Q2_K.gguf" --local-dir MY_LOCAL_DIR  

如果想下载多个匹配特定模式（例如*Q4_K*gguf）的模型文件，可以尝试：

huggingface-cli download tensorblock/YarnGPT-GGUF --local-dir MY_LOCAL_DIR --local-dir-use-symlinks False --include='*Q4_K*gguf'