🚀 Voicelab/trurl-2-13b - GGUF

本仓库包含Voicelab/trurl-2-13b的GGUF格式模型文件。这些文件由TensorBlock提供的机器进行量化，并且与截至提交b5165的llama.cpp兼容。

🚀 快速开始

下载说明

命令行方式

首先，安装Huggingface客户端：

pip install -U "huggingface_hub[cli]"

然后，将单个模型文件下载到本地目录：

huggingface-cli download tensorblock/Voicelab_trurl-2-13b-GGUF --include "trurl-2-13b-Q2_K.gguf" --local-dir MY_LOCAL_DIR

如果你想按模式（例如 *Q4_K*gguf）下载多个模型文件，可以尝试以下命令：

huggingface-cli download tensorblock/Voicelab_trurl-2-13b-GGUF --local-dir MY_LOCAL_DIR --local-dir-use-symlinks False --include='*Q4_K*gguf'

✨ 主要特性

我们的项目

模型文件规格

📚 详细文档

提示模板

无法自动确定提示格式。请查看原始模型仓库以获取正确的提示格式。