pipeline_tag: 句子相似度 language: 英文 license: apache-2.0 tags:

• sentence-transformers
• 特征提取
• 句子相似度
• transformers
• onnx

ONNX 转换版 all-MiniLM-L6-v2

基于 sentence-transformers/all-MiniLM-L6-v2 的转换

这是一个 sentence-transformers ONNX 模型：它能将句子和段落映射到 384 维稠密向量空间，可用于聚类或语义搜索等任务。此定制模型输出 last_hidden_state 和 pooler_output，而默认 ONNX 配置导出的 sentence-transformers 仅包含 last_hidden_state 作为输出。

使用方式（HuggingFace Optimum）

安装 optimum 后即可轻松使用此模型：

python -m pip install optimum

使用方法如下：

from optimum.onnxruntime.modeling_ort import ORTModelForCustomTasks

model = ORTModelForCustomTasks.from_pretrained("vamsibanda/sbert-all-MiniLM-L6-with-pooler")
tokenizer = AutoTokenizer.from_pretrained("vamsibanda/sbert-all-MiniLM-L6-with-pooler")
inputs = tokenizer("我爱墨西哥卷饼！", return_tensors="pt")
pred = model(**inputs)
embedding = pred['pooler_output']