许可协议：apache-2.0
任务标签：文本排序
支持语言：

• 英文
  库名称：sentence-transformers
  基础模型：
• google/electra-base-discriminator
  标签：
• transformers

文本排序交叉编码器

本模型是将lightning-ir中的webis/monoelectra-base模型移植至Sentence Transformers和Transformers框架的版本。

原模型出自论文《系统化研究：将大语言模型蒸馏为交叉编码器用于段落重排序》。训练原模型的代码详见https://github.com/webis-de/rank-distillm。

该模型可用于"检索-重排"两阶段流程中的重排序环节，对检索模型（如嵌入模型或BM25）返回的段落根据查询进行重新排序。更多细节参见SBERT.net检索与重排指南。

通过Sentence Transformers使用

安装SentenceTransformers后即可便捷使用：

pip install sentence-transformers

调用预训练模型示例：

from sentence_transformers import CrossEncoder  

model = CrossEncoder("cross-encoder/monoelectra-base", trust_remote_code=True)  
scores = model.predict([  
    ("柏林有多少人口？", "柏林在891.82平方公里的区域内有3,520,031名注册居民。"),  
    ("柏林有多少人口？", "柏林以其博物馆群闻名于世。"),  
])  
print(scores)  
# [ 8.122868 -4.292924]  

通过Transformers使用

from transformers import AutoTokenizer, AutoModelForSequenceClassification  
import torch  

model = AutoModelForSequenceClassification.from_pretrained("cross-encoder/monoelectra-base", trust_remote_code=True)  
tokenizer = AutoTokenizer.from_pretrained("cross-encoder/monoelectra-base")  

features = tokenizer(  
    [  
        ("柏林有多少人口？", "柏林在891.82平方公里的区域内有3,520,031名注册居民。"),  
        ("柏林有多少人口？", "柏林以其博物馆群闻名于世。"),  
    ],  
    padding=True,  
    truncation=True,  
    return_tensors="pt",  
)  

model.eval()  
with torch.no_grad():  
    scores = model(**features).logits.view(-1)  
print(scores)  
# tensor([ 8.1229, -4.2929])