语言：

• 日语
  基础模型：cl-nagoya/ruri-pt-base
  标签：
• 句子相似度
• 特征提取
  许可证：apache-2.0
  数据集：cl-nagoya/ruri-dataset-ft
  流水线标签：句子相似度

Ruri：日语通用文本嵌入模型

注意：v3版本模型已发布！
我们推荐使用以下v3版本模型。

使用方法

直接使用（Sentence Transformers）

首先安装Sentence Transformers库：

pip install -U sentence-transformers fugashi sentencepiece unidic-lite  

然后加载模型并进行推理：

import torch.nn.functional as F  
from sentence_transformers import SentenceTransformer  

# 从🤗 Hub下载模型  
model = SentenceTransformer("cl-nagoya/ruri-base")  

# 对于查询端文本需添加前缀"クエリ: "，对于段落端文本需添加前缀"文章: "。  
sentences = [  
    "クエリ: 瑠璃色はどんな色？",  
    "文章: 瑠璃色（るりいろ）は、紫みを帯びた濃い青。名は、半貴石の瑠璃（ラピスラズリ、英: lapis lazuli）による。JIS慣用色名では「こい紫みの青」（略号 dp-pB）と定義している[1][2]。",  
    "クエリ: ワシやタカのように、鋭いくちばしと爪を持った大型の鳥類を総称して「何類」というでしょう?",  
    "文章: ワシ、タカ、ハゲワシ、ハヤブサ、コンドル、フクロウが代表的である。これらの猛禽類はリンネ前後の時代(17~18世紀)には鷲類・鷹類・隼類及び梟類に分類された。ちなみにリンネは狩りをする鳥を単一の目(もく)にまとめ、vultur(コンドル、ハゲワシ)、falco(ワシ、タカ、ハヤブサなど)、strix(フクロウ)、lanius(モズ)の4属を含めている。",  
]  

embeddings = model.encode(sentences, convert_to_tensor=True)  
print(embeddings.size())  
# [4, 768]  

similarities = F.cosine_similarity(embeddings.unsqueeze(0), embeddings.unsqueeze(1), dim=2)  
print(similarities)  
# [[1.0000, 0.9421, 0.6844, 0.7167],  
#  [0.9421, 1.0000, 0.6626, 0.6863],  
#  [0.6844, 0.6626, 1.0000, 0.8785],  
#  [0.7167, 0.6863, 0.8785, 1.0000]]  

基准测试

JMTEB

使用JMTEB进行评估。

模型详情

模型描述

• 模型类型： 句子转换器
• 基础模型： cl-nagoya/ruri-pt-base
• 最大序列长度： 512个标记
• 输出维度： 768
• 相似度函数： 余弦相似度
• 语言： 日语
• 许可证： Apache 2.0
• 论文： https://arxiv.org/abs/2409.07737

完整模型架构

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: BertModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

框架版本

• Python: 3.10.13
• Sentence Transformers: 3.0.0
• Transformers: 4.41.2
• PyTorch: 2.3.1+cu118
• Accelerate: 0.30.1
• Datasets: 2.19.1
• Tokenizers: 0.19.1

引用

@misc{
  Ruri,
  title={{Ruri: Japanese General Text Embeddings}}, 
  author={Hayato Tsukagoshi and Ryohei Sasano},
  year={2024},
  eprint={2409.07737},
  archivePrefix={arXiv},
  primaryClass={cs.CL},
  url={https://arxiv.org/abs/2409.07737}, 
}

许可证

本模型基于Apache License, Version 2.0发布。