语言:

• 英文 数据集:
• SNLI
• MNLI 标签:
• 零样本分类

一个专为零样本和小样本文本分类训练的交叉注意力自然语言推理模型。

基础模型采用mpnet-base，训练代码源自此处； 训练数据来自SNLI和MNLI。

使用方法：

from transformers import AutoModelForSequenceClassification, AutoTokenizer
import torch
import numpy as np

model = AutoModelForSequenceClassification.from_pretrained("symanto/mpnet-base-snli-mnli")
tokenizer = AutoTokenizer.from_pretrained("symanto/mpnet-base-snli-mnli")

input_pairs = [("我喜欢这个披萨。", "这句话是积极的。"), ("我喜欢这个披萨。", "这句话是消极的。")]
inputs = tokenizer(["</s></s>".join(input_pair) for input_pair in input_pairs], return_tensors="pt")
logits = model(**inputs).logits
probs =  torch.softmax(logits, dim=1).tolist()
print("概率", probs)
np.testing.assert_almost_equal(probs, [[0.86, 0.14, 0.00], [0.16, 0.15, 0.69]], decimal=2)