库名称: transformers
许可证: apache-2.0
支持语言:

• 英语
• 中文
• 德语
• 日语
• 韩语
• 西班牙语
• 法语
• 阿拉伯语
• 孟加拉语
• 俄语
• 印尼语
• 斯瓦希里语
• 泰卢固语
• 泰语
  基础模型: mixedbread-ai/mxbai-rerank-large-v2
  标签:
• TensorBlock
• GGUF
  任务类型: 文本排序

mixedbread-ai/mxbai-rerank-large-v2 - GGUF格式

本仓库包含mixedbread-ai/mxbai-rerank-large-v2的GGUF格式模型文件。

这些文件由TensorBlock提供的机器进行量化，兼容commit b4882版本的llama.cpp。

我们的项目

Awesome MCP服务器合集	TensorBlock工作室
模型上下文协议(MCP)服务器的全面集合。	轻量级、开放、可扩展的多LLM交互工作室。
👀 查看我们的成果 👀	👀 查看我们的成果 👀

提示词模板

<|im_start|>system
{系统提示}<|im_end|>
<|im_start|>user
{用户输入}<|im_end|>
<|im_start|>assistant

模型文件规格

下载指南

命令行方式

首先安装Huggingface客户端

pip install -U "huggingface_hub[cli]"

然后下载单个模型文件到本地目录

huggingface-cli download tensorblock/mxbai-rerank-large-v2-GGUF --include "mxbai-rerank-large-v2-Q2_K.gguf" --local-dir 本地目录路径

如需批量下载符合特定模式的文件(例如*Q4_K*gguf)，可执行:

huggingface-cli download tensorblock/mxbai-rerank-large-v2-GGUF --local-dir 本地目录路径 --local-dir-use-symlinks False --include='*Q4_K*gguf'