Tensorflow XLM-RoBERTa

本仓库提供适用于TensorFlow的不同版本XLM-RoBERTa模型。

XLM-RoBERTa简介

XLM-RoBERTa是一个大规模跨语言句子编码器。该模型基于从Common Crawl筛选的100种语言、总量达2.5TB的数据进行训练，在多项跨语言基准测试中取得了最先进的成果。

模型权重

使用方法

使用Transformers 2.4及以上版本时，可通过以下方式加载TensorFlow版XLM-RoBERTa模型：

from transformers import TFXLMRobertaModel

model = TFXLMRobertaModel.from_pretrained("jplu/tf-xlm-roberta-base")

或

model = TFXLMRobertaModel.from_pretrained("jplu/tf-xlm-roberta-large")

Huggingface模型中心

所有模型均已上传至Huggingface模型中心。

致谢

衷心感谢Huggingface团队的支持及其卓越的开源库！