license: apache-2.0
language:

• en
  base_model: prithivMLmods/QwQ-Math-IO-500M
  pipeline_tag: text-generation
  library_name: transformers
  tags:
• qwq
• reasoning
• TensorBlock
• GGUF

prithivMLmods/QwQ-Math-IO-500M - GGUF

本仓库包含prithivMLmods/QwQ-Math-IO-500M的GGUF格式模型文件。

这些文件由TensorBlock提供的机器进行量化，兼容commit b4823版本的llama.cpp。

我们的项目

Awesome MCP Servers	TensorBlock Studio
一个全面的模型上下文协议（MCP）服务器集合。	一个轻量级、开放且可扩展的多LLM交互工作室。
😀 查看我们的成果 😀	😀 查看我们的成果 😀

提示词模板

<|im_start|>system  
{system_prompt}<|im_end|>  
<|im_start|>user  
{prompt}<|im_end|>  
<|im_start|>assistant  

模型文件规格

下载指南

命令行

首先安装Huggingface客户端

pip install -U "huggingface_hub[cli]"  

然后下载单个模型文件到本地目录

huggingface-cli download tensorblock/QwQ-Math-IO-500M-GGUF --include "QwQ-Math-IO-500M-Q2_K.gguf" --local-dir MY_LOCAL_DIR  

如需批量下载符合特定模式的文件（例如*Q4_K*gguf），可运行：

huggingface-cli download tensorblock/QwQ-Math-IO-500M-GGUF --local-dir MY_LOCAL_DIR --local-dir-use-symlinks False --include='*Q4_K*gguf'