Jbaron34 Qwen2.5 0.5b Bebop Reranker Gguf

由 RichardErkhov 开发

基于Qwen2.5架构的0.5B参数文本排序模型，使用Unsloth和TRL库高效训练

下载量 2,119

发布时间 : 3/13/2025

模型介绍

内容详情

替代品

模型简介

这是一个基于Qwen2.5架构的文本排序模型，专门用于重新排序文本结果，提升相关性排序效果。

高效训练

使用Unsloth和Huggingface的TRL库训练，速度提升2倍

多种量化版本

提供从Q2_K到Q8_0共22种不同量化级别的GGUF格式模型

轻量级

0.5B参数规模，适合资源有限的环境部署

文本相关性排序

搜索结果重排

文本相关性评分

信息检索

搜索引擎结果排序

对搜索引擎返回的结果进行重新排序，提升相关性

推荐系统排序

对推荐系统生成的候选内容进行相关性重排

名称	量化方法	大小
Qwen2.5-0.5b-bebop-reranker.Q2_K.gguf	Q2_K	0.32GB
Qwen2.5-0.5b-bebop-reranker.IQ3_XS.gguf	IQ3_XS	0.32GB
Qwen2.5-0.5b-bebop-reranker.IQ3_S.gguf	IQ3_S	0.32GB
Qwen2.5-0.5b-bebop-reranker.Q3_K_S.gguf	Q3_K_S	0.32GB
Qwen2.5-0.5b-bebop-reranker.IQ3_M.gguf	IQ3_M	0.32GB
Qwen2.5-0.5b-bebop-reranker.Q3_K.gguf	Q3_K	0.33GB
Qwen2.5-0.5b-bebop-reranker.Q3_K_M.gguf	Q3_K_M	0.33GB
Qwen2.5-0.5b-bebop-reranker.Q3_K_L.gguf	Q3_K_L	0.34GB
Qwen2.5-0.5b-bebop-reranker.IQ4_XS.gguf	IQ4_XS	0.33GB
Qwen2.5-0.5b-bebop-reranker.Q4_0.gguf	Q4_0	0.33GB
Qwen2.5-0.5b-bebop-reranker.IQ4_NL.gguf	IQ4_NL	0.33GB
Qwen2.5-0.5b-bebop-reranker.Q4_K_S.gguf	Q4_K_S	0.36GB
Qwen2.5-0.5b-bebop-reranker.Q4_K.gguf	Q4_K	0.37GB
Qwen2.5-0.5b-bebop-reranker.Q4_K_M.gguf	Q4_K_M	0.37GB
Qwen2.5-0.5b-bebop-reranker.Q4_1.gguf	Q4_1	0.35GB
Qwen2.5-0.5b-bebop-reranker.Q5_0.gguf	Q5_0	0.37GB
Qwen2.5-0.5b-bebop-reranker.Q5_K_S.gguf	Q5_K_S	0.38GB
Qwen2.5-0.5b-bebop-reranker.Q5_K.gguf	Q5_K	0.39GB
Qwen2.5-0.5b-bebop-reranker.Q5_K_M.gguf	Q5_K_M	0.39GB
Qwen2.5-0.5b-bebop-reranker.Q5_1.gguf	Q5_1	0.39GB
Qwen2.5-0.5b-bebop-reranker.Q6_K.gguf	Q6_K	0.47GB
Qwen2.5-0.5b-bebop-reranker.Q8_0.gguf	Q8_0	0.49GB