标签:

• 句子转换器
• 交叉编码器
• 训练生成
• 数据集大小:41052
• 损失函数:二元交叉熵损失 基础模型: cross-encoder/ms-marco-MiniLM-L12-v2 数据集:
• CharlesPing/climate-cross-encoder-mixed-neg-v3 管道标签: 文本排序 库名称: sentence-transformers 指标:
• 平均精度
• 首位倒数排名
• 首位归一化折损累积增益 模型索引:
• 名称: 基于cross-encoder/ms-marco-MiniLM-L12-v2的交叉编码器 结果:
  • 任务: 类型: 交叉编码器重排序 名称: 交叉编码器重排序 数据集: 名称: 气候多负样本重排序 类型: climate-rerank-multineg 指标:
    • 类型: 平均精度 值: 0.6809 名称: 平均精度
    • 类型: 首位倒数排名 值: 0.6748 名称: 首位倒数排名
    • 类型: 首位归一化折损累积增益 值: 0.6748 名称: 首位归一化折损累积增益

基于cross-encoder/ms-marco-MiniLM-L12-v2的交叉编码器

这是一个从cross-encoder/ms-marco-MiniLM-L12-v2微调而来的交叉编码器模型，使用了climate-cross-encoder-mixed-neg-v3数据集和sentence-transformers库。它计算文本对的分数，可用于文本重排序和语义搜索。

模型详情

模型描述

• 模型类型: 交叉编码器
• 基础模型: cross-encoder/ms-marco-MiniLM-L12-v2
• 最大序列长度: 512个标记
• 输出标签数量: 1个标签
• 训练数据集:
  • climate-cross-encoder-mixed-neg-v3

模型来源

• 文档: Sentence Transformers文档
• 文档: 交叉编码器文档
• 代码库: GitHub上的Sentence Transformers
• Hugging Face: Hugging Face上的交叉编码器

使用方式

直接使用（Sentence Transformers）

首先安装Sentence Transformers库：

pip install -U sentence-transformers

然后可以加载此模型并运行推理。

from sentence_transformers import CrossEncoder

# 从🤗 Hub下载
model = CrossEncoder("CharlesPing/finetuned-ce-climate-multineg-v1")
# 获取文本对的分数
pairs = [
    ['对过去气候的科学分析表明，温室气体（主要是CO2）控制了大多数古代气候变化。', '温室气体，特别是二氧化碳和甲烷，在始新世期间对控制地表温度起到了重要作用。'],
    ['对过去气候的科学分析表明，温室气体（主要是CO2）控制了大多数古代气候变化。', '气候地貌学在研究近期（第四纪、全新世）大气候变化时用途有限，因为地貌记录中很少能辨别出来。'],
    ['对过去气候的科学分析表明，温室气体（主要是CO2）控制了大多数古代气候变化。', 'CO2与温度之间也存在密切相关性，在地球历史上CO2对全球温度有很强的控制作用。'],
    ['对过去气候的科学分析表明，温室气体（主要是CO2）控制了大多数古代气候变化。', '虽然科学家知道过去的气候变化如冰河时代，但气候不变的概念在开发气候决定的一般理论时是有用的。'],
    ['对过去气候的科学分析表明，温室气体（主要是CO2）控制了大多数古代气候变化。', '地球历史上一些长期的重大变化，如大气中氧气的加入。'],
]
scores = model.predict(pairs)
print(scores.shape)
# (5,)

# 或根据与单个文本的相似性排序不同文本
ranks = model.rank(
    '对过去气候的科学分析表明，温室气体（主要是CO2）控制了大多数古代气候变化。',
    [
        '温室气体，特别是二氧化碳和甲烷，在始新世期间对控制地表温度起到了重要作用。',
        '气候地貌学在研究近期（第四纪、全新世）大气候变化时用途有限，因为地貌记录中很少能辨别出来。',
        'CO2与温度之间也存在密切相关性，在地球历史上CO2对全球温度有很强的控制作用。',
        '虽然科学家知道过去的气候变化如冰河时代，但气候不变的概念在开发气候决定的一般理论时是有用的。',
        '地球历史上一些长期的重大变化，如大气中氧气的加入。',
    ]
)
# [{'corpus_id': ..., 'score': ...}, {'corpus_id': ..., 'score': ...}, ...]

评估

指标

交叉编码器重排序

• 数据集: climate-rerank-multineg
• 使用CrossEncoderRerankingEvaluator评估，参数如下：

  {
      "at_k": 1,
      "always_rerank_positives": false
  }
  

训练详情

训练数据集

climate-cross-encoder-mixed-neg-v3

• 数据集: climate-cross-encoder-mixed-neg-v3 版本 cd49b57
• 大小: 41,052个训练样本
• 列: query, doc, 和 label
• 基于前1000个样本的近似统计:

  	查询	文档	标签
  类型	字符串	字符串	浮点数
  详情	最小: 49字符 平均: 140.03字符 最大: 306字符	最小: 4字符 平均: 136.03字符 最大: 731字符	最小: 0.0 平均: 0.09 最大: 1.0

• 样本:

  查询	文档	标签
  “加拿大北极熊权威专家Mitch Taylor表示：‘我们看到的北极熊数量增长是前所未有的，而在一些地方我们看到数量在减少’	关于北极熊未来的警告常常与全球种群数量在过去50年有所增加且目前相对稳定的事实形成对比。	1.0
  “加拿大北极熊权威专家Mitch Taylor表示：‘我们看到的北极熊数量增长是前所未有的，而在一些地方我们看到数量在减少’	近年来的物种分布模型表明，鹿蜱（学名"I. scapularis"）正将其分布推向美国东北部和加拿大的更高纬度地区，同时也在美国中南部和中西部北部地区推进并维持种群。	0.0
  “加拿大北极熊权威专家Mitch Taylor表示：‘我们看到的北极熊数量增长是前所未有的，而在一些地方我们看到数量在减少’	熊和鹿是现存的动物之一。	0.0

• 损失函数: BinaryCrossEntropyLoss，参数如下：

  {
      "activation_fn": "torch.nn.modules.linear.Identity",
      "pos_weight": null
  }
  

评估数据集

climate-cross-encoder-mixed-neg-v3

• 数据集: climate-cross-encoder-mixed-neg-v3 版本 cd49b57
• 大小: 4,290个评估样本
• 列: query, doc, 和 label
• 基于前1000个样本的近似统计:

  	查询	文档	标签
  类型	字符串	字符串	浮点数
  详情	最小: 39字符 平均: 116.67字符 最大: 240字符	最小: 18字符 平均: 132.92字符 最大: 731字符	最小: 0.0 平均: 0.09 最大: 1.0

• 样本:

  查询	文档	标签
  对过去气候的科学分析表明，温室气体（主要是CO2）控制了大多数古代气候变化。	温室气体，特别是二氧化碳和甲烷，在始新世期间对控制地表温度起到了重要作用。	1.0
  对过去气候的科学分析表明，温室气体（主要是CO2）控制了大多数古代气候变化。	气候地貌学在研究近期（第四纪、全新世）大气候变化时用途有限，因为地貌记录中很少能辨别出来。	0.0
  对过去气候的科学分析表明，温室气体（主要是CO2）控制了大多数古代气候变化。	CO2与温度之间也存在密切相关性，在地球历史上CO2对全球温度有很强的控制作用。	0.0

• 损失函数: BinaryCrossEntropyLoss，参数如下：

  {
      "activation_fn": "torch.nn.modules.linear.Identity",
      "pos_weight": null
  }
  

训练超参数

非默认超参数

• eval_strategy: steps
• per_device_train_batch_size: 16
• per_device_eval_batch_size: 32
• learning_rate: 2e-05
• warmup_ratio: 0.1
• fp16: True
• load_best_model_at_end: True

所有超参数

训练日志

• 加粗行表示保存的检查点。

框架版本

• Python: 3.11.12
• Sentence Transformers: 4.1.0
• Transformers: 4.51.3
• PyTorch: 2.6.0+cu124
• Accelerate: 1.6.0
• Datasets: 3.6.0
• Tokenizers: 0.21.1

引用

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}