语言: 英语 任务标签: 零样本分类 标签:

• distilbert 数据集:
• multi_nli 评估指标:
• 准确率

ONNX转换模型 typeform/distilbert-base-uncased-mnli

模型转换说明 typeform/distilbert-base-uncased-mnli

本模型是基于无大小写区分的DistilBERT模型，在多体裁自然语言推理(MNLI)数据集上微调，专为零样本分类任务优化。该模型不区分大小写，例如"english"和"English"会被视为相同。

训练过程

训练在p3.2xlarge AWS EC2实例(配备1块NVIDIA Tesla V100显卡)上完成，使用以下超参数：

$ run_glue.py \
    --model_name_or_path distilbert-base-uncased \
    --task_name mnli \
    --do_train \
    --do_eval \
    --max_seq_length 128 \
    --per_device_train_batch_size 16 \
    --learning_rate 2e-5 \
    --num_train_epochs 5 \
    --output_dir /tmp/distilbert-base-uncased_mnli/

评估结果