以下模型是通过转换谷歌官方BERT仓库中的TensorFlow检查点获得的PyTorch预训练模型。这些BERT变体源自论文《博览群书的学生学得更好：论预训练紧凑模型的重要性》(https://arxiv.org/abs/1908.08962)。所有模型均在MNLI数据集上训练完成。

若使用本模型，请引用论文：

@misc{bhargava2021generalization,
      title={Generalization in NLI: Ways (Not) To Go Beyond Simple Heuristics}, 
      author={Prajjwal Bhargava and Aleksandr Drozd and Anna Rogers},
      year={2021},
      eprint={2110.01518},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

原始实现及更多信息请访问GitHub代码库。

MNLI准确率：72.1%
MNLI-mm准确率：73.76%

模型训练周期为4轮。

开发者推特账号@prajjwal_1