base_model: sentence-transformers/all-mpnet-base-v2 tags:

• sentence-transformers
• sentence-similarity
• feature-extraction pipeline_tag: sentence-similarity library_name: sentence-transformers

SentenceTransformer 模型

这是一个基于sentence-transformers训练的模型。它能将句子和段落映射到768维的密集向量空间，可用于语义文本相似度计算、语义搜索、复述挖掘、文本分类、聚类等任务。

模型详情

模型描述

• 模型类型: 句子转换器（Sentence Transformer）

• 最大序列长度: 512个标记
• 输出维度: 768维
• 相似度计算方式: 余弦相似度

模型来源

• 文档: Sentence Transformers文档
• 代码库: GitHub上的Sentence Transformers
• Hugging Face: Hugging Face上的Sentence Transformers

完整模型架构

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: MPNetModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

使用方法

直接使用（Sentence Transformers库）

首先安装Sentence Transformers库：

pip install -U sentence-transformers

然后加载本模型并进行推理：

from sentence_transformers import SentenceTransformer

# 从🤗 Hub下载模型
model = SentenceTransformer("jensjorisdecorte/ConTeXT-Skill-Extraction-base")
# 运行推理
sentences = [
    '今天天气真好。',
    "外面阳光明媚！",
    '他开车去了体育场。',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# 输出：[3, 768]

# 获取嵌入向量的相似度分数
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# 输出：[3, 3]

训练详情

框架版本

• Python: 3.10.16
• Sentence Transformers: 3.4.0
• Transformers: 4.48.1
• PyTorch: 2.5.1+cpu
• Accelerate: 1.3.0
• Datasets: 3.2.0
• Tokenizers: 0.21.0