🚀 基于 NAMAA-Space/AraModernBert-Base-V1.0 的句子转换器
本句子转换器基于 NAMAA-Space/AraModernBert-Base-V1.0 进行微调,能够生成强大的阿拉伯语嵌入向量,适用于多种应用场景。它可以为阿拉伯语文本提供精确而深入的有意义表示,无论是构建智能搜索引擎、聊天机器人还是由人工智能驱动的知识图谱,该模型都能发挥重要作用。
主要特性
- 🔹 768 维密集向量 🎯
- 🔹 擅长领域:语义相似度、搜索、释义挖掘、聚类、文本分类等!
- 🔹 在保证性能的同时,优化了速度和效率
完整模型架构
SentenceTransformer(
(0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: ModernBertModel
(1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)
🚀 快速开始
📦 安装指南
首先,安装 Sentence Transformers 库:
pip install -U sentence-transformers
💻 使用示例
基础用法
安装完成后,你可以加载此模型并进行推理:
from sentence_transformers import SentenceTransformer
model = SentenceTransformer("NAMAA-Space/AraModernBert-Base-STS")
sentences = [
'الذكاء الاصطناعي يغير طريقة تفاعلنا مع التكنولوجيا.',
'التكنولوجيا تتطور بسرعة بفضل الذكاء الاصطناعي.',
'الذكاء الاصطناعي يسهم في تطوير التطبيقات الذكية.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
📚 详细文档
评估
指标
语义相似度
指标 |
STS17 |
STS22.v2 |
pearson_cosine |
0.8249 |
0.5259 |
spearman_cosine |
0.831 |
0.6169 |
框架版本
属性 |
详情 |
Python |
3.10.12 |
Sentence Transformers |
3.4.1 |
Transformers |
4.49.0 |
PyTorch |
2.1.0+cu118 |
Accelerate |
1.4.0 |
Datasets |
2.21.0 |
Tokenizers |
0.21.0 |
📄 许可证
本模型采用 Apache-2.0 许可证。
📚 引用
BibTeX
Sentence Transformers
@inproceedings{reimers-2019-sentence-bert,
title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
author = "Reimers, Nils and Gurevych, Iryna",
booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
month = "11",
year = "2019",
publisher = "Association for Computational Linguistics",
url = "https://arxiv.org/abs/1908.10084",
}
MultipleNegativesRankingLoss
@misc{henderson2017efficient,
title={Efficient Natural Language Response Suggestion for Smart Reply},
author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
year={2017},
eprint={1705.00652},
archivePrefix={arXiv},
primaryClass={cs.CL}
}