语言:

• 日语 许可证: cc-by-sa-4.0 标签:
• 零样本分类
• 文本分类
• 自然语言推理
• PyTorch 评估指标:
• 准确率 数据集:
• JSNLI 管道标签: 文本分类 小部件示例:
• 文本: "あなたが好きです。 あなたを愛しています。" 模型索引:
• 名称: bert-base-japanese-jsnli 结果:
  • 任务: 类型: 文本分类 名称: 自然语言推理 数据集: 类型: snli 名称: JSNLI 分割: 开发集 评估指标:
    • 类型: 准确率 值: 0.9288 已验证: 否

bert-base-japanese-jsnli

该模型是基于cl-tohoku/bert-base-japanese-v2在JSNLI数据集上微调的版本。在评估集上取得了以下结果：

• 损失值: 0.2085
• 准确率: 0.9288

使用方法

简易零样本分类流程

from transformers import pipeline

classifier = pipeline("zero-shot-classification", model="Formzu/bert-base-japanese-jsnli")

待分类文本 = "いつか世界を見る。"
候选标签 = ['旅行', '料理', '踊り']
输出结果 = classifier(待分类文本, 候选标签, hypothesis_template="この例は{}です。")
print(输出结果)
#{'sequence': 'いつか世界を見る。', 
# 'labels': ['旅行', '料理', '踊り'], 
# 'scores': [0.6758995652198792, 0.22110949456691742, 0.1029909998178482]}

自然语言推理应用

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

设备 = torch.device("cuda") if torch.cuda.is_available() else torch.device("cpu")

模型名称 = "Formzu/bert-base-japanese-jsnli"
模型 = AutoModelForSequenceClassification.from_pretrained(模型名称).to(设备)
分词器 = AutoTokenizer.from_pretrained(模型名称)

前提句 = "いつか世界を見る。"
标签 = '旅行'
假设句 = f'この例は{标签}です。'

输入数据 = 分词器.encode(前提句, 假设句, return_tensors='pt').to(设备)
with torch.no_grad():
    逻辑值 = 模型(输入数据)["logits"][0]
    概率分布 = 逻辑值.softmax(dim=-1)
    print(概率分布.cpu().numpy(), 逻辑值.cpu().numpy())
#[0.68940836 0.29482093 0.01577068] [ 1.7791482   0.92968255 -1.998533  ]

训练过程

训练超参数

训练过程中使用了以下超参数：

• 学习率: 2e-05
• 训练批次大小: 32
• 评估批次大小: 32
• 随机种子: 42
• 优化器: Adam (β1=0.9, β2=0.999, ε=1e-08)
• 学习率调度器类型: 线性
• 训练轮数: 3.0

训练结果

框架版本

• Transformers 4.21.2
• Pytorch 1.12.1+cu116
• Datasets 2.4.0
• Tokenizers 0.12.1