语言:

• 日语 标签:
• 句子相似度
• 特征提取 基础模型: cl-nagoya/ruri-v3-pt-70m 小部件: [] 管道标签: 句子相似度 许可证: apache-2.0 数据集:
• cl-nagoya/ruri-v3-dataset-ft

瑠璃（Ruri）：日语通用文本嵌入模型

瑠璃v3是基于ModernBERT-Ja构建的通用日语文本嵌入模型。瑠璃v3具有以下关键技术优势：

• 在日语文本嵌入任务中达到最先进的性能
• 支持长达8192个标记的序列
  • 前代版本（v1、v2）仅支持512个标记
• 词汇表扩展至10万标记（v1/v2为3.2万）
  • 更大的词汇表可缩短输入序列长度，提升效率
• 集成FlashAttention（继承ModernBERT架构）
  • 实现更快的推理和微调
• 纯SentencePiece分词器
  • 不同于前代依赖日语专用BERT分词器且需要预分词输入，v3版本仅使用SentencePiece进行分词——无需外部分词工具

模型系列

我们提供多种规模的瑠璃v3模型。以下是各模型概要：

使用方法

可通过transformers库（v4.48.0或更高版本）直接使用我们的模型：

pip install -U "transformers>=4.48.0" sentence-transformers

若GPU支持Flash Attention 2，推荐搭配使用：

pip install flash-attn --no-build-isolation

加载模型进行推理：

import torch
import torch.nn.functional as F
from sentence_transformers import SentenceTransformer

# 从🤗 Hub下载
device = "cuda" if torch.cuda.is_available() else "cpu"
model = SentenceTransformer("cl-nagoya/ruri-v3-70m", device=device)

# 瑠璃v3采用1+3前缀方案区分不同文本输入类型：
# ""（空字符串）用于编码语义含义
# "トピック: "用于分类、聚类和主题信息编码
# "検索クエリ: "用于检索任务中的查询
# "検索文書: "用于待检索文档
sentences = [
    "川べりでサーフボードを持った人たちがいます",
    "サーファーたちが川べりに立っています",
    "トピック: 瑠璃色のサーファー",
    "検索クエリ: 瑠璃色はどんな色？",
    "検索文書: 瑠璃色（るりいろ）は、紫みを帯びた濃い青。名は、半貴石の瑠璃（ラピスラズリ、英: lapis lazuli）による。JIS慣用色名では「こい紫みの青」（略号 dp-pB）と定義している[1][2]。",
]

embeddings = model.encode(sentences, convert_to_tensor=True)
print(embeddings.size())
# [5, 384]

similarities = F.cosine_similarity(embeddings.unsqueeze(0), embeddings.unsqueeze(1), dim=2)
print(similarities)
# [[1.0000, 0.9555, 0.8430, 0.6772, 0.7077],
#  [0.9555, 1.0000, 0.8333, 0.6636, 0.6971],
#  [0.8430, 0.8333, 1.0000, 0.8554, 0.8639],
#  [0.6772, 0.6636, 0.8554, 1.0000, 0.9500],
#  [0.7077, 0.6971, 0.8639, 0.9500, 1.0000]]

基准测试

JMTEB

使用JMTEB评估

模型详情

模型描述

• 模型类型: 句子转换器
• 基础模型: cl-nagoya/ruri-v3-pt-70m
• 最大序列长度: 8192标记
• 输出维度: 384
• 相似度函数: 余弦相似度
• 语言: 日语
• 许可证: Apache 2.0
• 论文: https://arxiv.org/abs/2409.07737

完整模型架构

SentenceTransformer(
  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: ModernBertModel 
  (1): Pooling({'word_embedding_dimension': 384, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

引用

@misc{
  瑠璃,
  title={{瑠璃：日语通用文本嵌入模型}}, 
  author={塚越勇人和笹野遼平},
  year={2024},
  eprint={2409.07737},
  archivePrefix={arXiv},
  primaryClass={cs.CL},
  url={https://arxiv.org/abs/2409.07737}, 
}

许可证

本模型基于Apache许可证2.0版发布。