pipeline_tag: 文本分类
inference: false
language: 葡萄牙语
tags:

• transformers

Prompsit/paraphrase-bert-pt

该模型用于评估给定短语的释义程度。

此模型基于预训练模型 "neuralmind/bert-base-portuguese-cased" 进行微调。

模型由西班牙政府经济事务与数字化转型部共同资助的 TSI-100905-2019-4 项目构建。

使用方法

模型用于回答以下问题："短语B"是否是"短语A"的释义。

请注意，我们处理的是短语而非完整句子。因此需注意模型不支持标点符号或长文本输入。

输出概率对应两类：

• 0: 非释义
• 1: 是释义

例如对于短语 "logo após o homicídio" 和候选释义 "pouco depois do assassinato"，使用方式如下：

import torch  
from transformers import AutoTokenizer, AutoModelForSequenceClassification  

tokenizer = AutoTokenizer.from_pretrained("Prompsit/paraphrase-bert-pt")  
model = AutoModelForSequenceClassification.from_pretrained("Prompsit/paraphrase-bert-pt")  

input = tokenizer('logo após o homicídio','pouco depois do assassinato',return_tensors='pt')  
logits = model(**input).logits  
soft = torch.nn.Softmax(dim=1)  
print(soft(logits))  

输出结果为：

tensor([[0.2137, 0.7863]], grad_fn=<SoftmaxBackward>)  

由于类别1（是释义）的概率为0.7863，类别0（非释义）的概率为0.2137，因此可以判定 "pouco depois do assassinato" 是 "logo após o homicidio" 的有效释义。

评估结果

测试数据集包含16,500组人工标注的短语对，评估指标如下：

metrics={
 'test_loss': 0.6074697375297546,  
 'test_accuracy': 0.7809,  
 'test_precision': 0.7157638466220329,  
 'test_recall': 0.40551724137931033,  
 'test_f1': 0.5177195685670262,  
 'test_matthews_correlation': 0.41603913834665324,  
 'test_runtime': 16.4585,  
 'test_samples_per_second': 607.587,  
 'test_steps_per_second': 19.017  
}