pipeline_tag: 句子相似度 tags:

• 句子转换器
• 特征提取
• 句子相似度
• 变换器

dense_encoder-msmarco-distilbert-word2vec256k

本模型基于msmarco-word2vec256000-distilbert-base-uncased，采用word2vec初始化的256k大小词汇表。

该模型在MS MARCO数据集上使用MarginMSELoss进行训练。具体训练脚本参见本仓库中的train_script.py。 性能表现：

• MS MARCO开发集：- (MRR@10)
• TREC-DL 2019：65.53 (nDCG@10)
• TREC-DL 2020：67.42 (nDCG@10)
• 4个BEIR数据集平均：38.97

训练过程中词嵌入矩阵被冻结。

使用方式（Sentence-Transformers）

安装sentence-transformers后即可轻松使用本模型：

pip install -U sentence-transformers

使用方法如下：

from sentence_transformers import SentenceTransformer
sentences = ["这是一个示例句子", "每个句子都会被转换"]

model = SentenceTransformer('{MODEL_NAME}')
embeddings = model.encode(sentences)
print(embeddings)