标签:

• 句子转换器
• 句子相似度
• 特征提取
• 训练生成
• 数据集大小:498970
• 损失函数:BPR损失 基础模型: answerdotai/ModernBERT-large 小部件:
• 源句: 世界贸易组织何时成立 句子:
  • WTO的阴暗面。世界贸易组织(WTO)成立于1995年1月1日，自那时起就一直备受争议。WTO的诞生更像是一种延续，而非真正意义上的全新创造。
  • 2016年5月30日更新。大萧条始于1929年。3月25日股市出现回调。许多投资者因向股票经纪人借款而血本无归。当市场下跌时，经纪人要求偿还贷款。这导致一些企业破产，包括银行。
  • "1946年2月成立了筹备委员会，并于1946年10月在伦敦首次召开会议，起草国际贸易组织的宪章；这项工作从1947年4月持续到11月。在GATT框架下进行了七轮谈判，直到第八轮——乌拉圭回合——于1994年结束，并成立了世界贸易组织(WTO)作为GATT的替代机构。"
• 源句: '支票上的路由号码在哪里' 句子:
  • 查找路由号码最简单的方法是查看银行支票。如下方示例支票图片所示，很容易找到银行的ABA路由号码和您的账号。该图片仅供参考。在某些情况下，支票账号和支票序列号的顺序是相反的。在下表中搜索所有BB&T北卡罗来纳州的路由号码。使用搜索框按城市、州、地址、路由号码筛选。点击表格中的路由号码链接可查看其所有信息(地址、电话号码、邮政编码等)。
  • '另一种查找路由号码的方法是查看支票。支票左下角的数字，如本图所示，是该账户的路由号码。您也可以在WellsFargo.com网站上找到您的路由号码: wellsfargo.com/help/routing-number。'
  • "您的身体系统会严重脱水。有时脱水的原因很简单：您因为生病或忙碌而没有喝足够的水，或者在旅行、徒步或露营时无法获得安全的饮用水。其他脱水原因包括：1 腹泻、呕吐。2 严重急性腹泻——即突然且剧烈的腹泻——会在短时间内导致大量水分和电解质流失。3 如果同时出现呕吐和腹泻，您会流失更多的体液和矿物质。有时脱水的原因很简单：您因为生病或忙碌而没有喝足够的水，或者在旅行、徒步或露营时无法获得安全的饮用水。其他脱水原因包括：1 腹泻、呕吐。"
• 源句: 新西兰白兔的平均产仔数 句子:
  • 1 它们有几种不同的颜色(黑色、红色和白色)，但白色兔子因其庞大、宽阔且肌肉发达的身体而成为肉兔生产中最受欢迎的品种。2 成熟时，公兔体重为8-10磅，母兔为9-12磅。3 新西兰兔仅需2个月即可作为肉兔屠宰。
  • 套圈是一种传统的投掷目标游戏，玩家将圆环投向目标钉，目标是尽可能接近目标。该游戏的起源并不十分明确，有理论认为它源自古希腊类似的游戏。
  • 成熟时，公兔体重为8-10磅，母兔为9-12磅。新西兰兔仅需2个月即可作为肉兔屠宰。它们的平均产仔数为8-10只。
• 源句: 什么是寄生虫感染 句子:
  • 寄生虫病是由寄生虫引起或传播的传染病。许多寄生虫不会致病。寄生虫病几乎可以影响所有生物，包括植物和哺乳动物。研究寄生虫病的学科称为寄生虫学。术语[编辑]。虽然细菌等生物体可作为寄生虫，但寄生虫病这一术语的使用通常更为严格。导致这些病症的三种主要生物体类型是原生动物(引起原生动物感染)、蠕虫(蠕虫病)和体外寄生虫。
  • 剧集于美国东部时间周日晚9点播出，第一季至第六季的剧集时长在50至69分钟之间。前六季已发行DVD和蓝光版本。截至2016年6月26日，《权力的游戏》已播出60集，第六季完结。该剧于2016年4月续订第七季，共7集，于2017年7月16日首播。该剧将以第八季完结，共6集。
  • '有可能患上败血症却不知道自己感染了，或者医生可能无法确定感染源。所有类型的感染都可能导致败血症：细菌性、病毒性、真菌性、寄生虫性。细菌感染由细菌引起，如大肠杆菌或A组链球菌。'
• 源句: ACT考试的平均前三分之一分数是多少 句子:
  • 杜克大学的ACT平均综合分数为34分。第25百分位的ACT分数为32分，第75百分位的ACT分数为35分。换句话说，32分低于平均水平，而35分将使您高于平均水平。如果您是高三或大四学生，您的GPA此时已难以改变。如果您的GPA等于或低于学校平均4.19，您需要更高的ACT分数来弥补，并证明您已准备好接受大学学业。
  • 北达科他州是要求高中毕业生在毕业前参加ACT考试的十几个州之一。该州今年与科罗拉多州并列第三，平均综合分数为20.6分。犹他州以20.8分排名第一，伊利诺伊州以20.7分排名第二。ACT综合分数范围为1至36分。全国平均分为21.0分。今年北达科他州共有7,227名学生参加了ACT考试。
  • 警告。上背部皮肤瘙痒可能是由药物过敏反应引起的。如果您正在服药，请咨询医生。根据MayoClinic.com，常见引起此问题的药物包括抗生素、麻醉性止痛药和抗真菌药物。 管道标签: 句子相似度 库名称: sentence-transformers

基于answerdotai/ModernBERT-large的SentenceTransformer

这是一个从answerdotai/ModernBERT-large微调的sentence-transformers模型。它将句子和段落映射到1024维的密集向量空间，可用于语义文本相似性、语义搜索、释义挖掘、文本分类、聚类等任务。

模型详情

模型描述

• 模型类型: 句子转换器
• 基础模型: answerdotai/ModernBERT-large
• 最大序列长度: 8192个标记
• 输出维度: 1024维
• 相似性函数: 余弦相似度

模型来源

• 文档: Sentence Transformers文档
• 仓库: GitHub上的Sentence Transformers
• Hugging Face: Hugging Face上的Sentence Transformers

完整模型架构

SentenceTransformer(
  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: ModernBertModel 
  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

使用

直接使用(Sentence Transformers)

首先安装Sentence Transformers库：

pip install -U sentence-transformers

然后您可以加载此模型并运行推理。

from sentence_transformers import SentenceTransformer

# 从🤗 Hub下载
model = SentenceTransformer("BlackBeenie/ModernBERT-large-msmarco-bpr")
# 运行推理
sentences = [
    'ACT考试的平均前三分之一分数是多少',
    '北达科他州是要求高中毕业生在毕业前参加ACT考试的十几个州之一。该州今年与科罗拉多州并列第三，平均综合分数为20.6分。犹他州以20.8分排名第一，伊利诺伊州以20.7分排名第二。ACT综合分数范围为1至36分。全国平均分为21.0分。今年北达科他州共有7,227名学生参加了ACT考试。',
    "杜克大学的ACT平均综合分数为34分。第25百分位的ACT分数为32分，第75百分位的ACT分数为35分。换句话说，32分低于平均水平，而35分将使您高于平均水平。如果您是高三或大四学生，您的GPA此时已难以改变。如果您的GPA等于或低于学校平均4.19，您需要更高的ACT分数来弥补，并证明您已准备好接受大学学业。",
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]

# 获取嵌入的相似度分数
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

训练详情

训练数据集

未命名数据集

• 大小: 498,970个训练样本
• 列: sentence_0, sentence_1, 和 sentence_2
• 基于前1000个样本的近似统计:

  	sentence_0	sentence_1	sentence_2
  类型	字符串	字符串	字符串
  详情	最小: 4个标记 平均: 9.24个标记 最大: 27个标记	最小: 23个标记 平均: 83.71个标记 最大: 279个标记	最小: 17个标记 平均: 79.72个标记 最大: 262个标记

• 样本:

  sentence_0	sentence_1	sentence_2
  什么是东革阿里	东革阿里是一种非常强效的草药，通过自然提高睾酮水平来增强性功能，并恢复性无能、性表现和性快感。东革阿里还能有效增加肌肉体积和力量，从而塑造健康的体魄。	然而，与东革阿里提取物不同，东革阿里根片和根粉不是无菌的。因此，不建议直接食用根粉。印度尼西亚和马来西亚的传统制备方法是将根片煮成茶。标准剂量为每人每天50克根片。
  安装工程硬木地板的成本	Burton表示，他的客户通常每平方英尺花费约8美元购买工程硬木地板；安装费用另加每平方英尺2美元。Minion表示，消费者应预计为优质硬木地板支付每平方英尺7至12美元。"如果房主购买木材并需要有人安装，通常安装费用约为每平方英尺2美元，"北卡罗来纳州亨特斯维尔LeBeau硬木地板公司的老板Bill LeBeau说。	安装硬木地板的成本约为每平方英尺9至12美元，而地毯约为每平方英尺3至5美元——因此一些房主选择只在部分房间安装硬木地板而非全屋。然而，地毯通常在被弄脏或磨损时需要更换。硬木地板比地毯更耐用，更容易清洁，并且可以重新打磨。最终，是否在卧室安装硬木地板或地毯的决定应基于您的个人偏好，至少如果您打算在房子里住上几年的话。
  定义污染	污染；污染了；污染。学习者的污染定义。[+宾语]：使(土地、水、空气等)变脏且不安全或不适合使用。工厂的废物污染[=污染]了河流。数英里的海滩被石油泄漏污染。汽车尾气污染空气。	为英语学习者编写的污染定义，来自Merriam-Webster学习者词典，包含音频发音、用法示例和可数/不可数名词标签。学习者词典移动搜索

• 损失函数: beir.losses.bpr_loss.BPRLoss

框架版本

• Python: 3.11.11
• Sentence Transformers: 3.4.1
• Transformers: 4.48.2
• PyTorch: 2.5.1+cu124
• Accelerate: 1.3.0
• Datasets: 3.2.0
• Tokenizers: 0.21.0

引用

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}