语言:

• 英语 许可证: apache-2.0 库名称: sentence-transformers 标签:
• sentence-transformers
• 句子相似度
• 特征提取
• 从训练器生成
• 数据集大小:6300
• 损失函数:MatryoshkaLoss
• 损失函数:MultipleNegativesRankingLoss 基础模型: BAAI/bge-m3 数据集: [] 评估指标:
• 余弦准确率@1
• 余弦准确率@3
• 余弦准确率@5
• 余弦准确率@10
• 余弦精确率@1
• 余弦精确率@3
• 余弦精确率@5
• 余弦精确率@10
• 余弦召回率@1
• 余弦召回率@3
• 余弦召回率@5
• 余弦召回率@10
• 余弦归一化折损累积增益@10
• 余弦平均倒数排名@10
• 余弦平均精度@100 小部件:
• 源句子: 本10-K表格年度报告第四部分第15(a)(1)项所列的合并财务报表及附注。 句子:
  • 平均每家Home Depot商店包括花园区域在内的总面积是多少？
  • 10-K表格年度报告的哪一部分包含合并财务报表及附注？
  • Garmin认为在其市场中哪些竞争因素重要？
• 源句子: 第3项法律诉讼，涵盖诉讼和监管事项，参考合并财务报表中的附注12——承诺与或有事项以获取更详细信息。 句子:
  • IBM 2023年股东年度报告中哪几页包含财务报表和补充数据？
  • 在合并财务报表的哪项附注中可以找到关于法律诉讼的进一步详情？
  • 文档中第8项的标题是什么？
• 源句子: 2023年娱乐板块的净收入为6.593亿美元。 句子:
  • 2023年娱乐板块的净收入是多少？
  • 2023年经营活动提供的净现金是多少？
  • 截至2023年8月的财年报告的净收入是多少？
• 源句子: 资本配置计划聚焦三个目标：(1) 以平均目标ROIC调整后增长率20%或更高发展业务；(2) 维持强劲的投资级资产负债表，包括目标平均汽车现金余额180亿美元；(3) 在前两个目标达成后，将可用现金返还股东。 句子:
  • 为何ICE抵押技术需接受联邦金融机构检查委员会(FFIEC)及其成员机构的审查？
  • 美国汽车在国家公路交通安全管理局下需遵守哪些类型的法规？
  • 所提及的资本配置计划的三个目标是什么？
• 源句子: 截至2024年1月28日，我们存货的净账面价值为13亿美元，其中包括为过时和损坏存货计提的1.397亿美元准备金。 句子:
  • 截至2024年1月28日，公司存货的估值及过时准备金状况如何？
  • ESG目标与长期增长战略之间的关系是什么？
  • 2022年福特对Rivian和Argo的投资产生了哪些财务影响？ 管道标签: 句子相似度 模型索引:
• 名称: BGE-M3金融套娃模型 结果:
  • 任务: 类型: 信息检索 名称: 信息检索 数据集: 名称: 维度1024 类型: dim_1024 指标:
    • 类型: 余弦准确率@1 值: 0.7171428571428572 名称: 余弦准确率@1
    • 类型: 余弦准确率@3 值: 0.8314285714285714 名称: 余弦准确率@3
    • 类型: 余弦准确率@5 值: 0.87 名称: 余弦准确率@5
    • 类型: 余弦准确率@10 值: 0.9142857142857143 名称: 余弦准确率@10
    • 类型: 余弦精确率@1 值: 0.7171428571428572 名称: 余弦精确率@1
    • 类型: 余弦精确率@3 值: 0.27714285714285714 名称: 余弦精确率@3
    • 类型: 余弦精确率@5 值: 0.174 名称: 余弦精确率@5
    • 类型: 余弦精确率@10 值: 0.09142857142857141 名称: 余弦精确率@10
    • 类型: 余弦召回率@1 值: 0.7171428571428572 名称: 余弦召回率@1
    • 类型: 余弦召回率@3 值: 0.8314285714285714 名称: 余弦召回率@3
    • 类型: 余弦召回率@5 值: 0.87 名称: 余弦召回率@5
    • 类型: 余弦召回率@10 值: 0.9142857142857143 名称: 余弦召回率@10
    • 类型: 余弦归一化折损累积增益@10 值: 0.8152097277196483 名称: 余弦归一化折损累积增益@10
    • 类型: 余弦平均倒数排名@10 值: 0.7835873015873015 名称: 余弦平均倒数排名@10
    • 类型: 余弦平均精度@100 值: 0.7867088346410263 名称: 余弦平均精度@100
  • 任务: 类型: 信息检索 名称: 信息检索 数据集: 名称: 维度768 类型: dim_768 指标:
    • 类型: 余弦准确率@1 值: 0.7128571428571429 名称: 余弦准确率@1
    • 类型: 余弦准确率@3 值: 0.8342857142857143 名称: 余弦准确率@3
    • 类型: 余弦准确率@5 值: 0.8657142857142858 名称: 余弦准确率@5
    • 类型: 余弦准确率@10 值: 0.91 名称: 余弦准确率@10
    • 类型: 余弦精确率@1 值: 0.7128571428571429 名称: 余弦精确率@1
    • 类型: 余弦精确率@3 值: 0.2780952380952381 名称: 余弦精确率@3
    • 类型: 余弦精确率@5 值: 0.17314285714285713 名称: 余弦精确率@5
    • 类型: 余弦精确率@10 值: 0.09099999999999998 名称: 余弦精确率@10
    • 类型: 余弦召回率@1 值: 0.7128571428571429 名称: 余弦召回率@1
    • 类型: 余弦召回率@3 值: 0.8342857142857143 名称: 余弦召回率@3
    • 类型: 余弦召回率@5 值: 0.8657142857142858 名称: 余弦召回率@5
    • 类型: 余弦召回率@10 值: 0.91 名称: 余弦召回率@10
    • 类型: 余弦归一化折损累积增益@10 值: 0.8122143155463835 名称: 余弦归一化折损累积增益@10
    • 类型: 余弦平均倒数排名@10 值: 0.7808730158730155 名称: 余弦平均倒数排名@10
    • 类型: 余弦平均精度@100 值: 0.7843065190190194 名称: 余弦平均精度@100
  • 任务: 类型: 信息检索 名称: 信息检索 数据集: 名称: 维度512 类型: dim_512 指标:
    • 类型: 余弦准确率@1 值: 0.7114285714285714 名称: 余弦准确率@1
    • 类型: 余弦准确率@3 值: 0.8357142857142857 名称: 余弦准确率@3
    • 类型: 余弦准确率@5 值: 0.8642857142857143 名称: 余弦准确率@5
    • 类型: 余弦准确率@10 值: 0.91 名称: 余弦准确率@10
    • 类型: 余弦精确率@1 值: 0.7114285714285714 名称: 余弦精确率@1
    • 类型: 余弦精确率@3 值: 0.2785714285714286 名称: 余弦精确率@3
    • 类型: 余弦精确率@5 值: 0.17285714285714285 名称: 余弦精确率@5
    • 类型: 余弦精确率@10 值: 0.09099999999999998 名称: 余弦精确率@10
    • 类型: 余弦召回率@1 值: 0.7114285714285714 名称: 余弦召回率@1
    • 类型: 余弦召回率@3 值: 0.8357142857142857 名称: 余弦召回率@3
    • 类型: 余弦召回率@5 值: 0.8642857142857143 名称: 余弦召回率@5
    • 类型: 余弦召回率@10 值: 0.91 名称: 余弦召回率@10
    • 类型: 余弦归一化折损累积增益@10 值: 0.8109635546819154 名称: 余弦归一化折损累积增益@10
    • 类型: 余弦平均倒数排名@10 值: 0.7792959183673466 名称: 余弦平均倒数排名@10
    • 类型: 余弦平均精度@100 值: 0.782703758965192 名称: 余弦平均精度@100
  • 任务: 类型: 信息检索 名称: 信息检索 数据集: 名称: 维度384 类型: dim_384 指标:
    • 类型: 余弦准确率@1 值: 0.7142857142857143 名称: 余弦准确率@1
    • 类型: 余弦准确率@3 值: 0.8328571428571429 名称: 余弦准确率@3
    • 类型: 余弦准确率@5 值: 0.8628571428571429 名称: 余弦准确率@5
    • 类型: 余弦准确率@10 值: 0.9128571428571428 名称: 余弦准确率@10
    • 类型: 余弦精确率@1 值: 0.7142857142857143 名称: 余弦精确率@1
    • 类型: 余弦精确率@3 值: 0.2776190476190476 名称: 余弦精确率@3
    • 类型: 余弦精确率@5 值: 0.17257142857142854 名称: 余弦精确率@5
    • 类型: 余弦精确率@10 值: 0.09128571428571428 名称: 余弦精确率@10
    • 类型: 余弦召回率@1 值: 0.7142857142857143 名称: 余弦召回率@1
    • 类型: 余弦召回率@3 值: 0.8328571428571429 名称: 余弦召回率@3
    • 类型: 余弦召回率@5 值: 0.8628571428571429 名称: 余弦召回率@5
    • 类型: 余弦召回率@10 值: 0.9128571428571428 名称: 余弦召回率@10
    • 类型: 余弦归一化折损累积增益@10 值: 0.8125530857386527 名称: 余弦归一化折损累积增益@10
    • 类型: 余弦平均倒数排名@10 值: 0.7806292517006799 名称: 余弦平均倒数排名@10
    • 类型: 余弦平均精度@100 值: 0.7837508100457361 名称: 余弦平均精度@100

BGE-M3金融套娃模型

这是一个基于sentence-transformers框架，从BAAI/bge-m3微调而来的模型。它能将句子和段落映射到1024维的密集向量空间，可用于语义文本相似度、语义搜索、复述挖掘、文本分类、聚类等多种任务。

模型详情

模型描述

• 模型类型: 句子转换器
• 基础模型: BAAI/bge-m3
• 最大序列长度: 8192个标记
• 输出维度: 1024个标记
• 相似度函数: 余弦相似度
• 语言: 英语
• 许可证: apache-2.0

模型来源

• 文档: Sentence Transformers文档
• 代码库: GitHub上的Sentence Transformers
• Hugging Face: Hugging Face上的Sentence Transformers

完整模型架构

SentenceTransformer(
  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

使用方式

直接使用(Sentence Transformers)

首先安装Sentence Transformers库:

pip install -U sentence-transformers

然后可以加载此模型并运行推理:

from sentence_transformers import SentenceTransformer

# 从🤗 Hub下载
model = SentenceTransformer("haophancs/bge-m3-financial-matryoshka")
# 运行推理
sentences = [
    '截至2024年1月28日，我们存货的净账面价值为13亿美元，其中包括为过时和损坏存货计提的1.397亿美元准备金。',
    "截至2024年1月28日，公司存货的估值及过时准备金状况如何？",
    'ESG目标与长期增长战略之间的关系是什么？',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]

# 获取嵌入向量的相似度分数
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

评估

指标

信息检索

• 数据集: dim_1024
• 使用InformationRetrievalEvaluator评估

训练详情

训练数据集

未命名数据集

• 大小: 6,300个训练样本
• 列: positive和anchor
• 基于前1000个样本的近似统计:

  	positive	anchor
  类型	字符串	字符串
  详情	最小: 11个标记 平均: 51.97个标记 最大: 1146个标记	最小: 7个标记 平均: 21.63个标记 最大: 47个标记

• 样本:

  positive	anchor
  从2022财年到2023财年，收入成本占总净收入的百分比下降了3%。	从2022财年到2023财年，收入成本占总净收入的百分比变化是多少？
  •营业利润增加3.21亿美元，即2%，达到181亿美元，同比增加主要由于净销售额增长，部分被营业利润率小幅下降所抵消。	2023年宝洁公司营业利润增长的因素有哪些？
  包括'Aurrera'、'Lider'和'PhonePe'在内的市场特定品牌。	沃尔玛国际销售哪些特定品牌？

引用

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MatryoshkaLoss

@misc{kusupati2024matryoshka,
    title={Matryoshka Representation Learning}, 
    author={Aditya Kusupati and Gantavya Bhatt and Aniket Rege and Matthew Wallingford and Aditya Sinha and Vivek Ramanujan and William Howard-Snyder and Kaifeng Chen and Sham Kakade and Prateek Jain and Ali Farhadi},
    year={2024},
    eprint={2205.13147},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}

MultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply}, 
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}