pipeline_tag: 句子相似度 tags:

• 句子转换器
• 特征提取
• 句子相似度
• 转换器
• 信息检索 language: 波兰语 license: apache-2.0 widget:
• source_sentence: "query: 如何活到100岁？" sentences:
  • "passage: 需要健康饮食和运动。"
  • "passage: 需要喝酒、聚会和开快车。"
  • "passage: 竞选期间政客们承诺要解决周日购物禁令问题。"

MMLW-retrieval-e5-base

MMLW（我必须得到更好的消息）是波兰语的神经文本编码器。该模型针对信息检索任务进行了优化，能够将查询和段落转换为768维向量。模型的开发采用了两步流程：

• 第一步，使用多语言E5检查点初始化模型，然后在6000万波兰语-英语文本对的多样化语料库上采用多语言知识蒸馏方法进行训练。我们利用英语FlagEmbeddings (BGE)作为蒸馏的教师模型。
• 第二步，在波兰MS MARCO训练集上使用对比损失对获得的模型进行微调。为了提高对比训练的效率，我们使用了大批量大小——小型模型1152，基础模型768，大型模型288。微调是在12个A100 GPU集群上进行的。

⚠️ 2023-12-26: 我们已将模型更新至新版本，结果有所改进。您仍可通过v1标签下载旧版本：AutoModel.from_pretrained("sdadas/mmlw-retrieval-e5-base", revision="v1") ⚠️

使用（Sentence-Transformers）

⚠️ 我们的密集检索器在编码文本时需要特定的前缀和后缀。对于此模型，查询应添加**"query: "前缀，段落应添加"passage: "**前缀 ⚠️

您可以通过sentence-transformers这样使用模型：

from sentence_transformers import SentenceTransformer
from sentence_transformers.util import cos_sim

query_prefix = "query: "
answer_prefix = "passage: "
queries = [query_prefix + "如何活到100岁？"]
answers = [
    answer_prefix + "需要健康饮食和运动。",
    answer_prefix + "需要喝酒、聚会和开快车。",
    answer_prefix + "竞选期间政客们承诺要解决周日购物禁令问题。"
]
model = SentenceTransformer("sdadas/mmlw-retrieval-e5-base")
queries_emb = model.encode(queries, convert_to_tensor=True, show_progress_bar=False)
answers_emb = model.encode(answers, convert_to_tensor=True, show_progress_bar=False)

best_answer = cos_sim(queries_emb, answers_emb).argmax().item()
print(answers[best_answer])
# 需要健康饮食和运动。

评估结果

该模型在波兰信息检索基准测试中实现了NDCG@10为56.09。详见PIRB排行榜获取详细结果。

致谢

此模型的训练得到了格但斯克理工大学在TASK中心计划中提供的A100 GPU集群支持。

引用

@article{dadas2024pirb,
  title={{PIRB}: 波兰密集和混合文本检索方法的综合基准测试}, 
  author={Sławomir Dadas and Michał Perełkiewicz and Rafał Poświata},
  year={2024},
  eprint={2402.13350},
  archivePrefix={arXiv},
  primaryClass={cs.CL}
}