GTE ModernColBERT V1

由 lightonai 开发

PyLate是一个基于ColBERT架构的句子相似度模型，采用Alibaba-NLP/gte-modernbert-base作为基础模型，通过蒸馏损失训练，适用于信息检索任务。

文本嵌入

Safetensors

开源协议:Apache-2.0 #信息检索优化 #高精度语义匹配 #大规模数据集训练

下载量 157.96k

发布时间 : 4/30/2025

模型介绍

内容详情

替代品

模型简介

该模型专注于句子相似度计算和信息检索任务，能够高效提取句子特征并进行相似度匹配。

模型特点

高效的句子特征提取

基于ColBERT架构，能够高效提取句子特征，适用于大规模信息检索。

蒸馏训练

采用蒸馏损失训练方法，提升模型性能。

多指标评估

支持多种评估指标，包括准确率、召回率、NDCG等，全面衡量模型性能。

模型能力

句子相似度计算

信息检索

特征提取

使用案例

信息检索

气候相关事实检索

在NanoClimateFEVER数据集上进行气候相关事实检索。

Accuracy@1达到0.36，Accuracy@10达到0.86

百科知识检索

在NanoDBPedia数据集上进行百科知识检索。

Accuracy@1达到0.88，Accuracy@10达到0.98

事实核查

在NanoFEVER数据集上进行事实核查任务。

Accuracy@1达到0.92，Accuracy@10达到1.0

问答系统

金融问答

在NanoFiQA2018数据集上进行金融问答任务。

Accuracy@1达到0.56，Accuracy@10达到0.8

复杂问答

在NanoHotpotQA数据集上进行复杂问答任务。

Accuracy@1达到0.92，Accuracy@10达到1.0

标签：

ColBERT
PyLate
句子转换器
句子相似度
特征提取
训练器生成
数据集大小：640000
损失：蒸馏基础模型：Alibaba-NLP/gte-modernbert-base 管道标签：句子相似度许可证：apache-2.0 库名称：PyLate 指标：
MaxSim_accuracy@1
MaxSim_accuracy@3
MaxSim_accuracy@5
MaxSim_accuracy@10
MaxSim_precision@1
MaxSim_precision@3
MaxSim_precision@5
MaxSim_precision@10
MaxSim_recall@1
MaxSim_recall@3
MaxSim_recall@5
MaxSim_recall@10
MaxSim_ndcg@10
MaxSim_mrr@10
MaxSim_map@100 模型索引：
名称：基于Alibaba-NLP/gte-modernbert-base的PyLate模型结果：
- 任务：类型：py-late-information-retrieval 名称：Py Late信息检索数据集：名称：NanoClimateFEVER 类型：NanoClimateFEVER 指标：
  - 类型：MaxSim_accuracy@1 值：0.36 名称：Maxsim Accuracy@1
  - 类型：MaxSim_accuracy@3 值：0.62 名称：Maxsim Accuracy@3
  - 类型：MaxSim_accuracy@5 值：0.78 名称：Maxsim Accuracy@5
  - 类型：MaxSim_accuracy@10 值：0.86 名称：Maxsim Accuracy@10
  - 类型：MaxSim_precision@1 值：0.36 名称：Maxsim Precision@1
  - 类型：MaxSim_precision@3 值：0.2333333333333333 名称：Maxsim Precision@3
  - 类型：MaxSim_precision@5 值：0.20799999999999996 名称：Maxsim Precision@5
  - 类型：MaxSim_precision@10 值：0.12799999999999997 名称：Maxsim Precision@10
  - 类型：MaxSim_recall@1 值：0.18333333333333332 名称：Maxsim Recall@1
  - 类型：MaxSim_recall@3 值：0.289 名称：Maxsim Recall@3
  - 类型：MaxSim_recall@5 值：0.41566666666666663 名称：Maxsim Recall@5
  - 类型：MaxSim_recall@10 值：0.49566666666666664 名称：Maxsim Recall@10
  - 类型：MaxSim_ndcg@10 值：0.41477895139843374 名称：Maxsim Ndcg@10
  - 类型：MaxSim_mrr@10 值：0.526579365079365 名称：Maxsim Mrr@10
  - 类型：MaxSim_map@100 值：0.33473812643311207 名称：Maxsim Map@100
- 任务：类型：py-late-information-retrieval 名称：Py Late信息检索数据集：名称：NanoDBPedia 类型：NanoDBPedia 指标：
  - 类型：MaxSim_accuracy@1 值：0.88 名称：Maxsim Accuracy@1
  - 类型：MaxSim_accuracy@3 值：0.94 名称：Maxsim Accuracy@3
  - 类型：MaxSim_accuracy@5 值：0.96 名称：Maxsim Accuracy@5
  - 类型：MaxSim_accuracy@10 值：0.98 名称：Maxsim Accuracy@10
  - 类型：MaxSim_precision@1 值：0.88 名称：Maxsim Precision@1
  - 类型：MaxSim_precision@3 值：0.7133333333333334 名称：Maxsim Precision@3
  - 类型：MaxSim_precision@5 值：0.6560000000000001 名称：Maxsim Precision@5
  - 类型：MaxSim_precision@10 值：0.572 名称：Maxsim Precision@10
  - 类型：MaxSim_recall@1 值：0.11798996781634019 名称：Maxsim Recall@1
  - 类型：MaxSim_recall@3 值：0.23074158968531658 名称：Maxsim Recall@3
  - 类型：MaxSim_recall@5 值：0.2961618059276896 名称：Maxsim Recall@5
  - 类型：MaxSim_recall@10 值：0.4145532152487909 名称：Maxsim Recall@10
  - 类型：MaxSim_ndcg@10 值：0.7295518860528665 名称：Maxsim Ndcg@10
  - 类型：MaxSim_mrr@10 值：0.9168571428571428 名称：Maxsim Mrr@10
  - 类型：MaxSim_map@100 值：0.5883869727264871 名称：Maxsim Map@100
- 任务：类型：py-late-information-retrieval 名称：Py Late信息检索数据集：名称：NanoFEVER 类型：NanoFEVER 指标：
  - 类型：MaxSim_accuracy@1 值：0.92 名称：Maxsim Accuracy@1
  - 类型：MaxSim_accuracy@3 值：0.98 名称：Maxsim Accuracy@3
  - 类型：MaxSim_accuracy@5 值：0.98 名称：Maxsim Accuracy@5
  - 类型：MaxSim_accuracy@10 值：1.0 名称：Maxsim Accuracy@10
  - 类型：MaxSim_precision@1 值：0.92 名称：Maxsim Precision@1
  - 类型：MaxSim_precision@3 值：0.35999999999999993 名称：Maxsim Precision@3
  - 类型：MaxSim_precision@5 值：0.21599999999999994 名称：Maxsim Precision@5
  - 类型：MaxSim_precision@10 值：0.10999999999999999 名称：Maxsim Precision@10
  - 类型：MaxSim_recall@1 值：0.8566666666666667 名称：Maxsim Recall@1
  - 类型：MaxSim_recall@3 值：0.96 名称：Maxsim Recall@3
  - 类型：MaxSim_recall@5 值：0.96 名称：Maxsim Recall@5
  - 类型：MaxSim_recall@10 值：0.98 名称：Maxsim Recall@10
  - 类型：MaxSim_ndcg@10 值：0.9451911044041129 名称：Maxsim Ndcg@10
  - 类型：MaxSim_mrr@10 值：0.9522222222222223 名称：Maxsim Mrr@10
  - 类型：MaxSim_map@100 值：0.9270501207729468 名称：Maxsim Map@100
- 任务：类型：py-late-information-retrieval 名称：Py Late信息检索数据集：名称：NanoFiQA2018 类型：NanoFiQA2018 指标：
  - 类型：MaxSim_accuracy@1 值：0.56 名称：Maxsim Accuracy@1
  - 类型：MaxSim_accuracy@3 值：0.66 名称：Maxsim Accuracy@3
  - 类型：MaxSim_accuracy@5 值：0.74 名称：Maxsim Accuracy@5
  - 类型：MaxSim_accuracy@10 值：0.8 名称：Maxsim Accuracy@10
  - 类型：MaxSim_precision@1 值：0.56 名称：Maxsim Precision@1
  - 类型：MaxSim_precision@3 值：0.32666666666666666 名称：Maxsim Precision@3
  - 类型：MaxSim_precision@5 值：0.25599999999999995 名称：Maxsim Precision@5
  - 类型：MaxSim_precision@10 值：0.15199999999999997 名称：Maxsim Precision@10
  - 类型：MaxSim_recall@1 值：0.30924603174603177 名称：Maxsim Recall@1
  - 类型：MaxSim_recall@3 值：0.47840476190476194 名称：Maxsim Recall@3
  - 类型：MaxSim_recall@5 值：0.5751746031746031 名称：Maxsim Recall@5
  - 类型：MaxSim_recall@10 值：0.6411984126984127 名称：Maxsim Recall@10
  - 类型：MaxSim_ndcg@10 值：0.5669909336903424 名称：Maxsim Ndcg@10
  - 类型：MaxSim_mrr@10 值：0.6359444444444444 名称：Maxsim Mrr@10
  - 类型：MaxSim_map@100 值：0.5031998196513616 名称：Maxsim Map@100
- 任务：类型：py-late-information-retrieval 名称：Py Late信息检索数据集：名称：NanoHotpotQA 类型：NanoHotpotQA 指标：
  - 类型：MaxSim_accuracy@1 值：0.92 名称：Maxsim Accuracy@1
  - 类型：MaxSim_accuracy@3 值：1.0 名称：Maxsim Accuracy@3
  - 类型：MaxSim_accuracy@5 值：1.0 名称：Maxsim Accuracy@5
  - 类型：MaxSim_accuracy@10 值：1.0 名称：Maxsim Accuracy@10
  - 类型：MaxSim_precision@1 值：0.92 名称：Maxsim Precision@1
  - 类型：MaxSim_precision@3 值：0.58 名称：Maxsim Precision@3
  - 类型：MaxSim_precision@5 值：0.35999999999999993 名称：Maxsim Precision@5
  - 类型：MaxSim_precision@10 值：0.18599999999999994 名称：Maxsim Precision@10
  - 类型：MaxSim_recall@1 值：0.46 名称：Maxsim Recall@1
  - 类型：MaxSim_recall@3 值：0.87 名称：Maxsim Recall@3
  - 类型：MaxSim_recall@5 值：0.9 名称：Maxsim Recall@5
  - 类型：MaxSim_recall@10 值：0.93 名称：Maxsim Recall@10
  - 类型：MaxSim_ndcg@10 值：0.9011747095216048 名称：Maxsim Ndcg@10
  - 类型：MaxSim_mrr@10 值：0.96 名称：Maxsim Mrr@10
  - 类型：MaxSim_map@100 值：0.8591508921772081 名称：Maxsim Map@100
- 任务：类型：py-late-information-retrieval 名称：Py Late信息检索数据集：名称：NanoMSMARCO 类型：NanoMSMARCO 指标：
  - 类型：MaxSim_accuracy@1 值：0.54 名称：Maxsim Accuracy@1
  - 类型：MaxSim_accuracy@3 值：0.68 名称：Maxsim Accuracy@3
  - 类型：MaxSim_accuracy@5 值：0.74 名称：Maxsim Accuracy@5
  - 类型：MaxSim_accuracy@10 值：0.92 名称：Maxsim Accuracy@10
  - 类型：MaxSim_precision@1 值：0.54 名称：Maxsim Precision@1
  - 类型：MaxSim_precision@3 值：0.22666666666666666 名称