标签:

• 句子转换器
• 句子相似度
• 特征提取
• 训练生成
• 损失函数:多重负例排序损失
• MTEB基准测试 基础模型: NAMAA-Space/AraModernBert-Base-V1.0 微件示例:
  • 源句: 人工智能正在改变我们与技术互动的方式。
    • 例句:
      • 得益于人工智能，技术正快速发展。
      • 人工智能推动智能应用开发。
      • 人工智能的挑战包括保障安全与伦理。 任务类型: 句子相似度 库名称: sentence-transformers 评估指标:
• 皮尔逊余弦相似度
• 斯皮尔曼余弦相似度 模型索引:
• 名称: NAMAA-Space/AraModernBert-Base-V1.0 测试结果:
  • 数据集: 配置: 阿拉伯语-阿拉伯语 名称: MTEB STS17 (ar-ar) 版本: faeb762787bd10488a50c8b5be4a3b82e411949c 拆分: 测试集 类型: 跨语言语义文本相似度 指标:
    • 类型: 皮尔逊 值: 82.4888
    • 类型: 斯皮尔曼 值: 83.0981
    • 类型: 余弦皮尔逊 值: 82.4888
    • 类型: 余弦斯皮尔曼 值: 83.1109
    • 类型: 曼哈顿皮尔逊 值: 81.2051
    • 类型: 曼哈顿斯皮尔曼 值: 83.0197
    • 类型: 欧几里得皮尔逊 值: 81.1013
    • 类型: 欧几里得斯皮尔曼 值: 82.8922
    • 类型: 主评分 值: 83.1109 任务类型: 语义文本相似度
  • 数据集: 配置: 阿拉伯语 名称: MTEB STS22.v2 (ar) 版本: d31f33a128469b20e357535c39b82fb3c3f6f2bd 拆分: 测试集 类型: 跨语言语义文本相似度 指标:
    • 类型: 皮尔逊 值: 52.5854
    • 类型: 斯皮尔曼 值: 61.7371
    • 类型: 余弦皮尔逊 值: 52.5854
    • 类型: 余弦斯皮尔曼 值: 61.7371
    • 类型: 曼哈顿皮尔逊 值: 55.8873
    • 类型: 曼哈顿斯皮尔曼 值: 61.3654
    • 类型: 欧几里得皮尔逊 值: 55.6335
    • 类型: 欧几里得斯皮尔曼 值: 61.2124
    • 类型: 主评分 值: 61.7371 任务类型: 语义文本相似度 许可证: Apache-2.0 语言:
• 阿拉伯语

基于NAMAA-Space/AraModernBert-Base-V1.0的句子转换器

本句子转换器模型基于NAMAA-Space/AraModernBert-Base-V1.0微调，可生成强大的阿拉伯语嵌入向量，适用于多种应用场景。

✨ 768维稠密向量 🎯
✨ 擅长领域: 语义相似度计算、搜索、复述挖掘、文本聚类、分类等任务
✨ 优化效率的同时保持卓越性能

无论您正在构建智能搜索引擎、聊天机器人还是知识图谱，该模型都能精准深入地表达阿拉伯文本语义。

立即试用，将阿拉伯语NLP提升至新高度！🔥

完整模型架构

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: ModernBertModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

使用方法

直接调用（需安装Sentence Transformers库）

pip install -U sentence-transformers

加载模型并推理：

from sentence_transformers import SentenceTransformer

# 从HuggingFace Hub下载
model = SentenceTransformer("NAMAA-Space/AraModernBert-Base-STS")
# 示例文本
sentences = [
    '人工智能正在改变我们与技术互动的方式。',
    '得益于人工智能，技术正快速发展。',
    '人工智能推动智能应用开发。'
]
embeddings = model.encode(sentences)  # 生成嵌入向量
print(embeddings.shape)  # 输出维度 [3, 768]

# 计算相似度矩阵
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)  # 输出维度 [3, 3]

评估结果

语义相似度指标

• 测试集: STS17与STS22.v2
• 使用EmbeddingSimilarityEvaluator评估

环境版本

• Python: 3.10.12
• Sentence Transformers: 3.4.1
• Transformers: 4.49.0
• PyTorch: 2.1.0+cu118
• Accelerate: 1.4.0
• Datasets: 2.21.0
• Tokenizers: 0.21.0

引用文献

BibTeX格式

句子转换器

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: 基于孪生BERT网络的句子嵌入",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "2019年自然语言处理实证方法会议论文集",
    month = "11",
    year = "2019",
    publisher = "计算语言学协会",
    url = "https://arxiv.org/abs/1908.10084",
}

多重负例排序损失

@misc{henderson2017efficient,
    title={智能回复的高效自然语言响应建议},
    author={Matthew Henderson 等},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}