语言:

• 中文
• 英文 基础模型: openbmb/MiniCPM-2B-sft-bf16 任务类型: 文本分类 库名称: transformers

MiniCPM-重排序器

MiniCPM-重排序器是由面壁智能与清华大学自然语言处理实验室（THUNLP）、东北大学信息检索小组（NEUIR）联合研发的中英双语文本重排序模型，具备以下核心优势：

• 卓越的中文、英文文本重排序性能
• 出色的中英跨语言重排序能力

该模型基于MiniCPM-2B-sft-bf16架构，采用双向注意力机制，通过多阶段训练策略，使用包含开源数据、合成数据及专有数据在内的约600万条训练样本。

推荐关注RAG工具链系列：

• 检索模型：MiniCPM-嵌入模型
• 重排模型：MiniCPM-重排序器
• RAG场景专用LoRA插件：MiniCPM3-RAG-LoRA

模型规格

• 参数量：24亿
• 最大输入标记数：1024

使用指南

输入规范

支持指令式输入格式：

<s>Instruction: {{ 指令 }} Query: {{ 查询 }}</s>{{ 文档 }}

示例：

<s>Instruction: 为这个医学问题检索相关回答。Query: 咽喉癌的成因是什么？</s>（文档内容）

也支持无指令模式：

<s>Query: {{ 查询 }}</s>{{ 文档 }}

环境配置

transformers==4.37.2
flash-attn>2.3.5

应用示例

Huggingface Transformers

# 初始化模型
model = AutoModelForSequenceClassification.from_pretrained(model_name, trust_remote_code=True, torch_dtype=torch.float16).to("cuda")
# 支持flash_attention_2加速
# model = AutoModelForSequenceClassification.from_pretrained(model_name, trust_remote_code=True,attn_implementation="flash_attention_2", torch_dtype=torch.float16).to("cuda")

Sentence Transformer

# 初始化跨编码器
model = CrossEncoder(model_name,max_length=1024,trust_remote_code=True, automodel_args={"torch_dtype": torch.float16})
# 支持flash_attention_2加速
# model = CrossEncoder(model_name,max_length=1024,trust_remote_code=True, automodel_args={"attn_implementation":"flash_attention_2","torch_dtype": torch.float16})

性能表现

中英重排序性能

跨语言重排序性能

许可协议

• 代码遵循Apache-2.0许可
• 模型权重使用需遵守MiniCPM模型协议
• 学术研究可免费使用，商业应用需填写申请问卷