Punjabi Sentence Bert Nli
这是一个基于NLI数据集训练的旁遮普语BERT模型,用于句子相似度计算和特征提取。
下载量 14
发布时间 : 3/4/2023
模型简介
该模型是基于l3cube-pune/punjabi-bert训练的旁遮普语句子转换器,主要用于句子相似度计算和特征提取任务。
模型特点
旁遮普语支持
专门针对旁遮普语优化的句子嵌入模型
NLI训练
基于自然语言推理(NLI)数据集训练,适合句子相似度任务
印度语言系列
作为MahaNLP项目的一部分,与其他印度语言模型共享架构
模型能力
句子特征提取
句子相似度计算
文本语义表示
使用案例
文本相似度
语义搜索
用于旁遮普语语义搜索系统
重复检测
检测旁遮普语文本中的相似或重复内容
信息检索
文档聚类
对旁遮普语文档进行聚类分析
🚀 旁遮普语SBERT(PunjabiSBERT)
旁遮普语SBERT是在自然语言推理(NLI)数据集上训练的旁遮普语BERT模型(l3cube - pune/punjabi - bert)。它是MahaNLP项目的一部分,项目链接:https://github.com/l3cube - pune/MarathiNLP 。此外,还提供了支持主要印度语言和跨语言能力的多语言版本模型,链接为 indic - sentence - bert - nli 。同时,还有一个更好的句子相似度模型(此模型的微调版本),链接为:https://huggingface.co/l3cube - pune/punjabi - sentence - similarity - sbert 。
🚀 快速开始
示例展示
以下是模型的使用示例:
pipeline_tag: sentence-similarity
tags:
- sentence-transformers
- feature-extraction
- sentence-similarity
- transformers
license: cc-by-4.0
language: pa
widget:
- source_sentence: "ਪੇਂਟਿੰਗ ਮੇਰਾ ਸ਼ੌਕ ਹੈ"
sentences:
- "ਨੱਚਣਾ ਮੇਰਾ ਸ਼ੌਕ ਹੈ"
- "ਮੇਰੇ ਬਹੁਤ ਸਾਰੇ ਸ਼ੌਕ ਹਨ"
- "ਮੈਨੂੰ ਪੇਂਟਿੰਗ ਅਤੇ ਡਾਂਸ ਦੋਵਾਂ ਦਾ ਆਨੰਦ ਆਉਂਦਾ ਹੈ"
example_title: "示例 1"
- source_sentence: "ਕੁਝ ਲੋਕ ਗਾ ਰਹੇ ਹਨ"
sentences:
- "ਲੋਕਾਂ ਦਾ ਇੱਕ ਸਮੂਹ ਗਾ ਰਿਹਾ ਹੈ"
- "ਇੱਕ ਬਿੱਲੀ ਦੁੱਧ ਪੀ ਰਹੀ ਹੈ"
- "ਦੋ ਆਦਮੀ ਲੜ ਰਹੇ ਹਨ"
example_title: "示例 2"
- source_sentence: "ਮੇਰੇ ਘਰ ਵਿੱਚ ਤੁਹਾਡਾ ਸੁਆਗਤ ਹੈ"
sentences:
- "ਮੈਂ ਤੁਹਾਡੇ ਘਰ ਵਿੱਚ ਤੁਹਾਡਾ ਸੁਆਗਤ ਕਰਾਂਗਾ "
- "ਮੇਰਾ ਘਰ ਕਾਫੀ ਵੱਡਾ ਹੈ"
- "ਅੱਜ ਮੇਰੇ ਘਰ ਵਿੱਚ ਰਹੋ"
example_title: "示例 3"
✨ 主要特性
- 基于旁遮普语BERT模型(l3cube - pune/punjabi - bert)训练,适用于旁遮普语句子相似度任务。
- 作为MahaNLP项目的一部分,具有良好的扩展性和可维护性。
- 提供多语言版本和微调版本,满足不同场景需求。
📦 安装指南
若要使用此模型,需要安装 sentence - transformers:
pip install -U sentence-transformers
💻 使用示例
基础用法(使用sentence - transformers库)
from sentence_transformers import SentenceTransformer
sentences = ["This is an example sentence", "Each sentence is converted"]
model = SentenceTransformer('{MODEL_NAME}')
embeddings = model.encode(sentences)
print(embeddings)
高级用法(不使用sentence - transformers库,使用HuggingFace Transformers)
from transformers import AutoTokenizer, AutoModel
import torch
#Mean Pooling - Take attention mask into account for correct averaging
def mean_pooling(model_output, attention_mask):
token_embeddings = model_output[0] #First element of model_output contains all token embeddings
input_mask_expanded = attention_mask.unsqueeze(-1).expand(token_embeddings.size()).float()
return torch.sum(token_embeddings * input_mask_expanded, 1) / torch.clamp(input_mask_expanded.sum(1), min=1e-9)
# Sentences we want sentence embeddings for
sentences = ['This is an example sentence', 'Each sentence is converted']
# Load model from HuggingFace Hub
tokenizer = AutoTokenizer.from_pretrained('{MODEL_NAME}')
model = AutoModel.from_pretrained('{MODEL_NAME}')
# Tokenize sentences
encoded_input = tokenizer(sentences, padding=True, truncation=True, return_tensors='pt')
# Compute token embeddings
with torch.no_grad():
model_output = model(**encoded_input)
# Perform pooling. In this case, mean pooling.
sentence_embeddings = mean_pooling(model_output, encoded_input['attention_mask'])
print("Sentence embeddings:")
print(sentence_embeddings)
📚 详细文档
更多关于数据集、模型和基线结果的详细信息,请参考我们的 论文 。 以下是论文的引用信息:
@article{deode2023l3cube,
title={L3Cube-IndicSBERT: A simple approach for learning cross-lingual sentence representations using multilingual BERT},
author={Deode, Samruddhi and Gadre, Janhavi and Kajale, Aditi and Joshi, Ananya and Joshi, Raviraj},
journal={arXiv preprint arXiv:2304.11434},
year={2023}
}
@article{joshi2022l3cubemahasbert,
title={L3Cube-MahaSBERT and HindSBERT: Sentence BERT Models and Benchmarking BERT Sentence Representations for Hindi and Marathi},
author={Joshi, Ananya and Kajale, Aditi and Gadre, Janhavi and Deode, Samruddhi and Joshi, Raviraj},
journal={arXiv preprint arXiv:2211.11187},
year={2022}
}
相关论文链接:
🔗 相关模型链接
单语印度句子BERT模型
- 马拉地语SBERT(Marathi SBERT)
- 印地语SBERT(Hindi SBERT)
- 卡纳达语SBERT(Kannada SBERT)
- 泰卢固语SBERT(Telugu SBERT)
- 马拉雅拉姆语SBERT(Malayalam SBERT)
- 泰米尔语SBERT(Tamil SBERT)
- 古吉拉特语SBERT(Gujarati SBERT)
- 奥里亚语SBERT(Oriya SBERT)
- 孟加拉语SBERT(Bengali SBERT)
- 旁遮普语SBERT(Punjabi SBERT)
- 印度语SBERT(多语言)(Indic SBERT (multilingual))
单语相似度模型
- 马拉地语相似度模型(Marathi Similarity)
- 印地语相似度模型(Hindi Similarity)
- 卡纳达语相似度模型(Kannada Similarity)
- 泰卢固语相似度模型(Telugu Similarity)
- 马拉雅拉姆语相似度模型(Malayalam Similarity)
- 泰米尔语相似度模型(Tamil Similarity)
- 古吉拉特语相似度模型(Gujarati Similarity)
- 奥里亚语相似度模型(Oriya Similarity)
- 孟加拉语相似度模型(Bengali Similarity)
- 旁遮普语相似度模型(Punjabi Similarity)
- 印度语相似度模型(多语言)(Indic Similarity (multilingual))
📄 许可证
本模型使用的许可证为 cc - by - 4.0。
Jina Embeddings V3
Jina Embeddings V3 是一个多语言句子嵌入模型,支持超过100种语言,专注于句子相似度和特征提取任务。
文本嵌入
Transformers 支持多种语言

J
jinaai
3.7M
911
Ms Marco MiniLM L6 V2
Apache-2.0
基于MS Marco段落排序任务训练的交叉编码器模型,用于信息检索中的查询-段落相关性评分
文本嵌入 英语
M
cross-encoder
2.5M
86
Opensearch Neural Sparse Encoding Doc V2 Distill
Apache-2.0
基于蒸馏技术的稀疏检索模型,专为OpenSearch优化,支持免推理文档编码,在搜索相关性和效率上优于V1版本
文本嵌入
Transformers 英语

O
opensearch-project
1.8M
7
Sapbert From PubMedBERT Fulltext
Apache-2.0
基于PubMedBERT的生物医学实体表征模型,通过自对齐预训练优化语义关系捕捉
文本嵌入 英语
S
cambridgeltl
1.7M
49
Gte Large
MIT
GTE-Large 是一个强大的句子转换器模型,专注于句子相似度和文本嵌入任务,在多个基准测试中表现出色。
文本嵌入 英语
G
thenlper
1.5M
278
Gte Base En V1.5
Apache-2.0
GTE-base-en-v1.5 是一个英文句子转换器模型,专注于句子相似度任务,在多个文本嵌入基准测试中表现优异。
文本嵌入
Transformers 支持多种语言

G
Alibaba-NLP
1.5M
63
Gte Multilingual Base
Apache-2.0
GTE Multilingual Base 是一个多语言的句子嵌入模型,支持超过50种语言,适用于句子相似度计算等任务。
文本嵌入
Transformers 支持多种语言

G
Alibaba-NLP
1.2M
246
Polybert
polyBERT是一个化学语言模型,旨在实现完全由机器驱动的超快聚合物信息学。它将PSMILES字符串映射为600维密集指纹,以数值形式表示聚合物化学结构。
文本嵌入
Transformers

P
kuelumbus
1.0M
5
Bert Base Turkish Cased Mean Nli Stsb Tr
Apache-2.0
基于土耳其语BERT的句子嵌入模型,专为语义相似度任务优化
文本嵌入
Transformers 其他

B
emrecan
1.0M
40
GIST Small Embedding V0
MIT
基于BAAI/bge-small-en-v1.5模型微调的文本嵌入模型,通过MEDI数据集与MTEB分类任务数据集训练,优化了检索任务的查询编码能力。
文本嵌入
Safetensors 英语
G
avsolatorio
945.68k
29
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers 支持多种语言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers 英语

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统 中文
R
uer
2,694
98
智启未来,您的人工智能解决方案智库
简体中文