量化者：bartowski
流水线标签：文本排序
基础模型：lightblue/lb-reranker-0.5B-v1.0
标签：

• 重排序器

数据集：

• lightblue/reranker_continuous_filt_max7_train

支持语言：

• 英语、中文、西班牙语、德语、阿拉伯语、俄语、日语、韩语、印地语、斯洛伐克语、越南语、土耳其语、芬兰语、印尼语、波斯语、挪威语、泰语、瑞典语、葡萄牙语、丹麦语、孟加拉语、泰卢固语、罗马尼亚语、意大利语、法语、荷兰语、斯瓦希里语、波兰语、匈牙利语、捷克语、希腊语、乌克兰语、马拉地语、泰米尔语、他加禄语、保加利亚语、立陶宛语、乌尔都语、希伯来语、古吉拉特语、卡纳达语、阿姆哈拉语、哈萨克语、克罗地亚语、乌兹别克语、爪哇语、加泰罗尼亚语、阿塞拜疆语、马来语、塞尔维亚语、斯洛文尼亚语、约鲁巴语、拉脱维亚语、冰岛语、豪萨语、格鲁吉亚语、爱沙尼亚语、波斯尼亚语、亚美尼亚语、马拉雅拉姆语、旁遮普语、马耳他语、高棉语、阿尔巴尼亚语、奥里亚语、阿萨姆语、缅甸语、蒙古语、南非荷兰语、白俄罗斯语、爱尔兰语、马其顿语、威尔士语、加利西亚语、宿务语、拉丁语、意第绪语、卢森堡语、塔吉克语、苏格兰盖尔语、尼泊尔语、普什图语、巴斯克语、吉尔吉斯语、库尔德语、僧伽罗语、海地克里奥尔语、世界语、老挝语、弗里斯兰语、信德语、马尔加什语、索马里语、库尔德语（索拉尼）、巽他语、挪威尼诺斯克语

许可证：Apache-2.0

lb-reranker-0.5B-v1.0的Llamacpp imatrix量化版本

使用llama.cpp发布的b4456版本进行量化。

原始模型：https://huggingface.co/lightblue/lb-reranker-0.5B-v1.0

所有量化均采用imatrix选项，数据集来自此处

可在LM Studio中运行

提示格式

<|im_start|>system  
{系统提示}<|im_end|>  
<|im_start|>user  
{用户提示}<|im_end|>  
<|im_start|>assistant  

从下方下载单个文件（非整个分支）：