license: cc-by-4.0 language:

• cs pipeline_tag: sentence-similarity

SimCSE模型

SimCSE-RetroMAE-Small是基于Seznam/retromae-small-cs模型，采用SimCSE目标进行微调的成果。

该模型由Seznam.cz开发，旨在构建高质量的捷克语小型语义嵌入模型。这些模型在多种自然语言处理任务中表现优异，包括相似性搜索、信息检索、聚类和分类。如需了解更多细节或评估结果，请参阅相关论文或GitHub仓库。

使用方法

可通过以下方式加载并使用该模型：

import torch
from transformers import AutoModel, AutoTokenizer

model_name = "Seznam/retromae-small-cs"  # Hugging Face链接
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModel.from_pretrained(model_name)

input_texts = [
    "今天天气晴朗，非常适合去公园散步。",
    "晚上我打算看部好电影，再泡杯茶。"
]

# 对输入文本进行分词处理
batch_dict = tokenizer(input_texts, max_length=512, padding=True, truncation=True, return_tensors='pt')

outputs = model(**batch_dict)
embeddings = outputs.last_hidden_state[:, 0]  # 提取CLS标记的嵌入向量

similarity = torch.nn.functional.cosine_similarity(embeddings[0], embeddings[1], dim=0)