标签:

• 句子转换器
• 交叉编码器
• 训练生成
• 数据集大小:17639
• 损失函数:二元交叉熵损失 基础模型: cross-encoder/msmarco-MiniLM-L6-en-de-v1 管道标签: 文本排序 库名称: sentence-transformers 指标:
• 皮尔逊系数
• 斯皮尔曼系数 模型索引:
• 名称: 基于cross-encoder/msmarco-MiniLM-L6-en-de-v1的交叉编码器 结果:
  • 任务: 类型: 交叉编码器相关性 名称: 交叉编码器相关性 数据集: 名称: onet验证集 类型: onet-validation 指标:
    • 类型: 皮尔逊系数 值: 0.8246902137614378 名称: 皮尔逊
    • 类型: 斯皮尔曼系数 值: 0.8073346678301418 名称: 斯皮尔曼
    • 类型: 皮尔逊系数 值: 0.8080619777425957 名称: 皮尔逊
    • 类型: 斯皮尔曼系数 值: 0.7875635794780041 名称: 斯皮尔曼

基于cross-encoder/msmarco-MiniLM-L6-en-de-v1的交叉编码器

这是一个从cross-encoder/msmarco-MiniLM-L6-en-de-v1微调而来的交叉编码器模型，使用sentence-transformers库在csv数据集上进行训练。它计算文本对的分数，可用于文本重新排序和语义搜索。

模型详情

模型描述

• 模型类型: 交叉编码器
• 基础模型: cross-encoder/msmarco-MiniLM-L6-en-de-v1
• 最大序列长度: 512个标记
• 输出标签数量: 1个标签
• 训练数据集:
  • csv

模型来源

• 文档: Sentence Transformers文档
• 文档: 交叉编码器文档
• 仓库: GitHub上的Sentence Transformers
• Hugging Face: Hugging Face上的交叉编码器

使用方法

直接使用（Sentence Transformers）

首先安装Sentence Transformers库：

pip install -U sentence-transformers

然后可以加载此模型并运行推理。

from sentence_transformers import CrossEncoder

# 从🤗 Hub下载
model = CrossEncoder("cross_encoder_model_id")
# 获取文本对的分数
pairs = [
    ['首席执行官:确定并制定政策，并在董事会或类似管理机构设定的指导方针内，为私营和公共部门的公司或组织提供总体方向。在最高管理层计划、指导或协调运营活动，借助下属高管和部门经理。', "指导或协调组织的财务或预算活动，以资助运营、最大化投资或提高效率。"],
    ['首席执行官:确定并制定政策，并在董事会或类似管理机构设定的指导方针内，为私营和公共部门的公司或组织提供总体方向。在最高管理层计划、指导或协调运营活动，借助下属高管和部门经理。', '与董事会成员、组织官员或工作人员讨论问题、协调活动或解决问题。'],
    ['首席执行官:确定并制定政策，并在董事会或类似管理机构设定的指导方针内，为私营和公共部门的公司或组织提供总体方向。在最高管理层计划、指导或协调运营活动，借助下属高管和部门经理。', '准备预算以供批准，包括资助或实施项目的预算。'],
    ['首席执行官:确定并制定政策，并在董事会或类似管理机构设定的指导方针内，为私营和公共部门的公司或组织提供总体方向。在最高管理层计划、指导或协调运营活动，借助下属高管和部门经理。', '指导、计划或实施组织或企业的政策、目标或活动，以确保持续运营、最大化投资回报或提高生产力。'],
    ['首席执行官:确定并制定政策，并在董事会或类似管理机构设定的指导方针内，为私营和公共部门的公司或组织提供总体方向。在最高管理层计划、指导或协调运营活动，借助下属高管和部门经理。', '准备或提交关于活动、支出、预算、政府法规或其他影响业务或项目服务的报告。'],
]
scores = model.predict(pairs)
print(scores.shape)
# (5,)

# 或根据与单个文本的相似性对不同的文本进行排序
ranks = model.rank(
    '首席执行官:确定并制定政策，并在董事会或类似管理机构设定的指导方针内，为私营和公共部门的公司或组织提供总体方向。在最高管理层计划、指导或协调运营活动，借助下属高管和部门经理。',
    [
        "指导或协调组织的财务或预算活动，以资助运营、最大化投资或提高效率。",
        '与董事会成员、组织官员或工作人员讨论问题、协调活动或解决问题。',
        '准备预算以供批准，包括资助或实施项目的预算。',
        '指导、计划或实施组织或企业的政策、目标或活动，以确保持续运营、最大化投资回报或提高生产力。',
        '准备或提交关于活动、支出、预算、政府法规或其他影响业务或项目服务的报告。',
    ]
)
# [{'corpus_id': ..., 'score': ...}, {'corpus_id': ..., 'score': ...}, ...]

评估

指标

交叉编码器相关性

• 数据集: onet-validation
• 使用CrossEncoderCorrelationEvaluator评估

交叉编码器相关性

• 数据集: onet-validation
• 使用CrossEncoderCorrelationEvaluator评估

训练详情

训练数据集

csv

• 数据集: csv
• 大小: 17,639个训练样本
• 列: query, task, 和 score
• 基于前1000个样本的近似统计:

  	query	task	score
  类型	字符串	字符串	浮点数
  详情	最小: 105个字符 平均: 235.78个字符 最大: 562个字符	最小: 20个字符 平均: 103.24个字符 最大: 317个字符	最小: 0.42 平均: 0.8 最大: 0.98

• 样本:

  query	task	score
  首席执行官:确定并制定政策，并在董事会或类似管理机构设定的指导方针内，为私营和公共部门的公司或组织提供总体方向。在最高管理层计划、指导或协调运营活动，借助下属高管和部门经理。	指导或协调组织的财务或预算活动，以资助运营、最大化投资或提高效率。	0.8242
  首席执行官:确定并制定政策，并在董事会或类似管理机构设定的指导方针内，为私营和公共部门的公司或组织提供总体方向。在最高管理层计划、指导或协调运营活动，借助下属高管和部门经理。	与董事会成员、组织官员或工作人员讨论问题、协调活动或解决问题。	0.84055
  首席执行官:确定并制定政策，并在董事会或类似管理机构设定的指导方针内，为私营和公共部门的公司或组织提供总体方向。在最高管理层计划、指导或协调运营活动，借助下属高管和部门经理。	准备预算以供批准，包括资助或实施项目的预算。	0.89705

• 损失函数: BinaryCrossEntropyLoss 参数如下:

  {
      "activation_fn": "torch.nn.modules.linear.Identity",
      "pos_weight": null
  }
  

评估数据集

csv

• 数据集: csv
• 大小: 1,764个评估样本
• 列: query, task, 和 score
• 基于前1000个样本的近似统计:

  	query	task	score
  类型	字符串	字符串	浮点数
  详情	最小: 105个字符 平均: 235.78个字符 最大: 562个字符	最小: 20个字符 平均: 103.24个字符 最大: 317个字符	最小: 0.42 平均: 0.8 最大: 0.98

• 样本:

  query	task	score
  首席执行官:确定并制定政策，并在董事会或类似管理机构设定的指导方针内，为私营和公共部门的公司或组织提供总体方向。在最高管理层计划、指导或协调运营活动，借助下属高管和部门经理。	指导或协调组织的财务或预算活动，以资助运营、最大化投资或提高效率。	0.8242
  首席执行官:确定并制定政策，并在董事会或类似管理机构设定的指导方针内，为私营和公共部门的公司或组织提供总体方向。在最高管理层计划、指导或协调运营活动，借助下属高管和部门经理。	与董事会成员、组织官员或工作人员讨论问题、协调活动或解决问题。	0.84055
  首席执行官:确定并制定政策，并在董事会或类似管理机构设定的指导方针内，为私营和公共部门的公司或组织提供总体方向。在最高管理层计划、指导或协调运营活动，借助下属高管和部门经理。	准备预算以供批准，包括资助或实施项目的预算。	0.89705

• 损失函数: BinaryCrossEntropyLoss 参数如下:

  {
      "activation_fn": "torch.nn.modules.linear.Identity",
      "pos_weight": null
  }
  

训练超参数

非默认超参数

• eval_strategy: steps
• num_train_epochs: 4
• warmup_ratio: 0.1
• bf16: True

所有超参数

训练日志