pipeline_tag: 句子相似度
tags:

• 特征提取
• 句子相似度
  language:
• 德语
• 英语
• 西班牙语
• 法语
• 意大利语
• 荷兰语
• 日语
• 葡萄牙语
• 中文

模型卡片：vectorizer.raspberry

本模型是由Sinequa开发的向量化器。它能够根据输入的段落或查询生成嵌入向量。段落向量存储在我们的向量索引中，查询向量则在查询时用于查找索引中的相关段落。

模型名称：vectorizer.raspberry

支持语言

模型在以下语言中进行了训练和测试：

• 英语
• 法语
• 德语
• 西班牙语
• 意大利语
• 荷兰语
• 日语
• 葡萄牙语
• 中文（简体）

除了这些语言外，模型还支持基础模型预训练时使用的其他91种语言（参见XLM-R论文附录A）。

评分

注：相关性评分是基于14个检索数据集的平均值计算得出的（详见下方评估指标）。

推理时间

GPU内存使用

注：GPU内存使用量仅包括模型在NVIDIA T4 GPU上批大小为32时的实际消耗内存。不包括ONNX Runtime初始化时固定消耗的内存，这部分内存约为0.5至1 GiB，具体取决于使用的GPU。

要求

• 最低Sinequa版本：11.10.0
• 使用FP16模型和CUDA计算能力8.9+（如NVIDIA L4）的最低Sinequa版本：11.11.0
• CUDA计算能力：高于5.0（高于6.0支持FP16）

模型详情

概述

• 参数量：1.07亿
• 基础语言模型：mMiniLMv2-L6-H384-distilled-from-XLMR-Large（论文，GitHub）
• 对大小写和重音不敏感
• 输出维度：256（通过额外的密集层降维）
• 训练过程：对于有挖掘硬负样本的数据集，使用查询-段落-负样本三元组；其余使用查询-段落对。通过批内负样本策略增加负样本数量

训练数据

模型训练使用了all-MiniLM-L6-v2模型中引用的所有数据集。此外，还基于上述9种语言在这篇论文中引用的数据集进行了训练。

评估指标

相关性评分是通过在BEIR基准的数据集上评估结果的平均值确定的。注意，这些数据集均为英文。

我们还通过MIRACL基准的数据集测试了模型的多语言能力。注意，并非所有训练语言都包含在该基准中，因此仅报告现有语言的指标。