🚀 Albert xxlarge version 1语言模型在SQuAD2.0上微调

本模型是Albert xxlarge version 1语言模型在SQuAD2.0数据集上进行微调后的版本。微调后模型在问答任务上有较好的表现，下面为你展示具体的评估结果、运行脚本以及使用的软件和系统信息。

🚀 快速开始

评估结果

(2020年9月30日更新) 模型在SQuAD2.0数据集上的评估结果如下：

exact: 86.11134506864315
f1: 89.35371214945009
total': 11873
HasAns_exact': 83.56950067476383
HasAns_f1': 90.06353312254078
HasAns_total': 5928
NoAns_exact': 88.64592094196804
NoAns_f1': 88.64592094196804
NoAns_total': 5945
best_exact': 86.11134506864315
best_exact_thresh': 0.0
best_f1': 89.35371214944985
best_f1_thresh': 0.0

运行脚本

运行以下脚本可以复现模型的训练和评估过程：

python ${EXAMPLES}/run_squad.py \
  --model_type albert \
  --model_name_or_path albert-xxlarge-v1 \
  --do_train \
  --do_eval \
  --train_file ${SQUAD}/train-v2.0.json \
  --predict_file ${SQUAD}/dev-v2.0.json \
  --version_2_with_negative \
  --do_lower_case \
  --num_train_epochs 3 \
  --max_steps 8144 \
  --warmup_steps 814 \
  --learning_rate 3e-5 \
  --max_seq_length 512 \
  --doc_stride 128 \
  --per_gpu_train_batch_size 6 \
  --gradient_accumulation_steps 8 \
  --per_gpu_eval_batch_size 48 \
  --fp16 \
  --fp16_opt_level O1 \
  --threads 12 \
  --logging_steps 50 \
  --save_steps 3000 \
  --overwrite_output_dir \
  --output_dir ${MODEL_PATH}

使用的软件和系统

运行该模型使用了以下软件和系统：

Transformers: 3.1.0
PyTorch: 1.6.0
TensorFlow: 2.3.1
Python: 3.8.1
OS: Linux-5.4.0-48-generic-x86_64-with-glibc2.10
CPU/GPU: Intel i9-9900K / NVIDIA Titan RTX 24GB