语言:

• 日语 标签:
• 句子相似度
• 特征提取 基础模型: sbintuitions/modernbert-ja-30m 小部件: [] 管道标签: 句子相似度 许可证: apache-2.0 数据集:
• cl-nagoya/ruri-v3-dataset-pt

Ruri: 日语通用文本嵌入模型

⚠️注意： 当前模型为预训练版本，尚未进行微调。
如需使用微调版本，请访问 cl-nagoya/ruri-v3-30m！

微调模型系列

Ruri v3 是基于 ModernBERT-Ja 构建的日语通用文本嵌入模型。我们提供不同参数规模的Ruri-v3版本，各模型规格如下：

使用方法

需使用transformers库4.48.0及以上版本：

pip install -U "transformers>=4.48.0" sentence-transformers

若GPU支持Flash Attention 2，建议启用该功能：

pip install flash-attn --no-build-isolation

加载模型进行推理：

import torch.nn.functional as F
from sentence_transformers import SentenceTransformer

# 从🤗 Hub下载
model = SentenceTransformer("cl-nagoya/ruri-v3-pt-30m")

# Ruri v3采用1+3前缀方案区分文本类型：
# ""（空字符串）用于语义编码
# "トピック: "用于分类/聚类/主题编码
# "検索クエリ: "用于检索查询
# "検索文書: "用于待检索文档
sentences = [
    "川べりでサーフボードを持った人たちがいます",
    "サーファーたちが川べりに立っています",
    "トピック: 瑠璃色のサーファー",
    "検索クエリ: 瑠璃色はどんな色？",
    "検索文書: 瑠璃色（るりいろ）は、紫みを帯びた濃い青。名は、半貴石の瑠璃（ラピスラズリ、英: lapis lazuli）による。JIS慣用色名では「こい紫みの青」（略号 dp-pB）と定義している[1][2]。",
]

embeddings = model.encode(sentences, convert_to_tensor=True)
print(embeddings.size())
# [5, 256]

similarities = F.cosine_similarity(embeddings.unsqueeze(0), embeddings.unsqueeze(1), dim=2)
print(similarities)

引用文献

@misc{
  Ruri,
  title={{Ruri: 日语通用文本嵌入模型}}, 
  author={塚越駿人 and 笹野遼平},
  year={2024},
  eprint={2409.07737},
  archivePrefix={arXiv},
  primaryClass={cs.CL},
  url={https://arxiv.org/abs/2409.07737}, 
}

许可协议

本模型基于 Apache License 2.0 发布。