BAAI Bge Reranker V2 Gemma Gguf

由 RichardErkhov 开发

基于Gemma-2B的多语言重排序模型，适用于文本相关性排序任务，支持多语言场景。

下载量 1,482

发布时间 : 10/7/2024

模型介绍

内容详情

替代品

模型简介

该模型直接以问题和文档作为输入，输出相似度分数而非嵌入向量，适用于文本重排序任务。

多语言支持

适用于多语言场景，在英语能力和多语言能力上均表现优异。

轻量级设计

模型设计轻量，易于部署，推理速度快。

直接相似度输出

直接输出查询和文档的相关性分数，无需额外计算。

文本相关性评分

多语言文本处理

文档重排序

信息检索

搜索引擎结果排序

对搜索引擎返回的结果进行重排序，提升相关性。

提高搜索结果的相关性和用户满意度。

推荐系统

内容推荐

对推荐内容进行相关性排序，提升推荐质量。

提高推荐内容的准确性和用户点击率。

名称	量化方法	大小
bge-reranker-v2-gemma.Q2_K.gguf	Q2_K	1.08GB
bge-reranker-v2-gemma.IQ3_XS.gguf	IQ3_XS	1.16GB
bge-reranker-v2-gemma.IQ3_S.gguf	IQ3_S	1.2GB
bge-reranker-v2-gemma.Q3_K_S.gguf	Q3_K_S	1.2GB
bge-reranker-v2-gemma.IQ3_M.gguf	IQ3_M	1.22GB
bge-reranker-v2-gemma.Q3_K.gguf	Q3_K	1.29GB
bge-reranker-v2-gemma.Q3_K_M.gguf	Q3_K_M	1.29GB
bge-reranker-v2-gemma.Q3_K_L.gguf	Q3_K_L	1.36GB
bge-reranker-v2-gemma.IQ4_XS.gguf	IQ4_XS	1.4GB
bge-reranker-v2-gemma.Q4_0.gguf	Q4_0	1.44GB
bge-reranker-v2-gemma.IQ4_NL.gguf	IQ4_NL	1.45GB
bge-reranker-v2-gemma.Q4_K_S.gguf	Q4_K_S	1.45GB
bge-reranker-v2-gemma.Q4_K.gguf	Q4_K	1.52GB
bge-reranker-v2-gemma.Q4_K_M.gguf	Q4_K_M	1.52GB
bge-reranker-v2-gemma.Q4_1.gguf	Q4_1	1.56GB
bge-reranker-v2-gemma.Q5_0.gguf	Q5_0	1.68GB
bge-reranker-v2-gemma.Q5_K_S.gguf	Q5_K_S	1.68GB
bge-reranker-v2-gemma.Q5_K.gguf	Q5_K	1.71GB
bge-reranker-v2-gemma.Q5_K_M.gguf	Q5_K_M	1.71GB
bge-reranker-v2-gemma.Q5_1.gguf	Q5_1	1.79GB
bge-reranker-v2-gemma.Q6_K.gguf	Q6_K	1.92GB
bge-reranker-v2-gemma.Q8_0.gguf	Q8_0	2.49GB

模型	基础模型	语言	分层	特点
BAAI/bge-reranker-base	xlm-roberta-base	中英文	-	轻量级重排序模型，易于部署，推理速度快。
BAAI/bge-reranker-large	xlm-roberta-large	中英文	-	轻量级重排序模型，易于部署，推理速度快。
BAAI/bge-reranker-v2-m3	bge-m3	多语言	-	轻量级重排序模型，具备强大的多语言能力，易于部署，推理速度快。
BAAI/bge-reranker-v2-gemma	gemma-2b	多语言	-	适用于多语言场景，在英语能力和多语言能力上均表现优异。
BAAI/bge-reranker-v2-minicpm-layerwise	MiniCPM-2B-dpo-bf16	多语言	8-40	适用于多语言场景，在英语和中文能力上均表现优异，可自由选择输出层，便于加速推理。