许可证：apache-2.0
数据集：

• sentence-transformers/msmarco
  语言：
• en
  基础模型：
• cross-encoder/ms-marco-MiniLM-L12-v2
  管道标签：文本排序
  库名称：sentence-transformers
  标签：
• transformers

MS Marco交叉编码器

本模型基于MS Marco段落排序任务训练而成。

该模型可用于信息检索：给定查询时，将查询与所有可能段落（例如通过ElasticSearch检索获得）进行编码，然后按得分降序排序段落。详见SBERT.net检索与重排序。训练代码参见：SBERT.net训练MS Marco

使用SentenceTransformers

安装SentenceTransformers后即可轻松使用预训练模型：

from sentence_transformers import CrossEncoder  

model = CrossEncoder('cross-encoder/ms-marco-MiniLM-L6-v2')  
scores = model.predict([  
    ("柏林有多少人口？", "截至统计，柏林在891.82平方公里区域内拥有3,520,031名注册居民。"),  
    ("柏林有多少人口？", "柏林以其博物馆群闻名于世。"),  
])  
print(scores)  
# [8.607138, -4.320078]  

使用Transformers

from transformers import AutoTokenizer, AutoModelForSequenceClassification  
import torch  

model = AutoModelForSequenceClassification.from_pretrained('cross-encoder/ms-marco-MiniLM-L6-v2')  
tokenizer = AutoTokenizer.from_pretrained('cross-encoder/ms-marco-MiniLM-L6-v2')  

features = tokenizer(  
    ['柏林有多少人口？', '柏林有多少人口？'],  
    ['柏林在891.82平方公里区域内拥有3,520,031名注册居民', '纽约市因大都会艺术博物馆而闻名'],  
    padding=True, truncation=True, return_tensors="pt"  
)  

model.eval()  
with torch.no_grad():  
    scores = model(**features).logits  
    print(scores)  

性能表现

下表列出不同预训练交叉编码器在TREC深度学习2019和MS Marco段落重排序数据集的表现：

注：运行速度测试基于V100 GPU。