标签:

• 句子转换器
• 句子相似度
• 特征提取
• 训练生成
• 数据集大小:84524
• 损失函数:属性三元组损失 基础模型: 阿里巴巴NLP/gte-base-en-v1.5 小部件示例:
• 源句: 唐·派珀 对比句:
  • 汤米·尼尔森
  • 凯特·沃尔伯特
  • 出版商
  • 作者
• 源句: 浮华世界 对比句:
  • '1999'
  • 出版日期
  • 书名
  • '重症监护，慈悲医院系列#1'
• 源句: 布拉姆·斯托克 对比句:
  • 作者
  • 迈克尔·J·潘吉奥
  • '9781598871012'
  • 国际标准书号13位
• 源句: '9780385340557' 对比句:
  • BBC图书
  • '9780399208539'
  • 作者
  • 国际标准书号13位
• 源句: 午夜 对比句:
  • 骨之游行
  • 2005年12月1日
  • 出版日期
  • 书名 管道标签: 句子相似度 库名称: 句子转换器 评估指标:
• 余弦准确率
• 余弦轮廓系数
• 欧氏轮廓系数 模型索引:
• 名称: 基于阿里巴巴NLP/gte-base-en-v1.5的SentenceTransformer 结果:
  • 任务类型: 三元组 名称: 三元组评估 数据集名称: 未知 类型: 未知 指标:
    • 类型: 余弦准确率 值: 0.9933986663818359 名称: 余弦准确率
    • 类型: 余弦准确率 值: 0.9953047037124634 名称: 余弦准确率
  • 任务类型: 轮廓分析 名称: 轮廓评估 数据集名称: 未知 类型: 未知 指标:
    • 类型: 余弦轮廓系数 值: 0.8820315599441528 名称: 余弦轮廓系数
    • 类型: 欧氏轮廓系数 值: 0.7902207374572754 名称: 欧氏轮廓系数
    • 类型: 余弦轮廓系数 值: 0.8861660361289978 名称: 余弦轮廓系数
    • 类型: 欧氏轮廓系数 值: 0.794360339641571 名称: 欧氏轮廓系数

基于阿里巴巴NLP/gte-base-en-v1.5的SentenceTransformer模型

这是从阿里巴巴NLP/gte-base-en-v1.5微调而来的sentence-transformers模型。它将句子和段落映射到768维稠密向量空间，可用于语义文本相似度、语义搜索、复述挖掘、文本分类、聚类等任务。

模型详情

模型描述

• 模型类型: 句子转换器
• 基础模型: 阿里巴巴NLP/gte-base-en-v1.5
• 最大序列长度: 8192个标记
• 输出维度: 768维
• 相似度函数: 余弦相似度

模型架构

SentenceTransformer(
  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) 
  (1): 池化层({'word_embedding_dimension': 768, 'pooling_mode_cls_token': True})
)

使用方式

直接使用(Sentence Transformers)

安装库:

pip install -U sentence-transformers

加载模型:

from sentence_transformers import SentenceTransformer
model = SentenceTransformer("albertus-sussex/veriscrape-book-test-sbert")
embeddings = model.encode(["午夜","骨之游行","2005/12/01"])
print(embeddings.shape)  # [3, 768]

评估指标

三元组评估

轮廓分析

训练详情

训练数据

• 样本量: 84,524
• 列: anchor(锚点), positive(正例), negative(负例)等
• 损失函数: 属性三元组损失(欧氏距离, 边际=5)

超参数

• 批量大小: 128
• 学习率: 5e-5
• 训练轮次: 3
• 预热比例: 0.1

引用

Sentence-BERT

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of EMNLP 2019",
    year = "2019",
    publisher = "ACL"
}