语言: 多语言

数据集: 维基百科

许可证: Apache-2.0

示例:

• 文本: "谷歌创造了460亿[MASK]的收入。"
• 文本: "巴黎是[MASK]的首都。"
• 文本: "阿尔及尔是[MASK]最大的城市。"

bert-base-en-ru-cased（英语-俄语大小写敏感基础版）

我们发布了bert-base-multilingual-cased的定制化精简版本，可处理特定数量的语言。

与distilbert-base-multilingual-cased不同，我们的版本能完全复现原始模型的表征输出，保持原始准确度。

更多技术细节请参阅论文: 按需加载：多语言BERT的精简版本。

使用方法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/bert-base-en-ru-cased")
model = AutoModel.from_pretrained("Geotrend/bert-base-en-ru-cased")

如需生成其他多语言Transformer的精简版本，请访问我们的GitHub仓库。

引用方式

@inproceedings{smallermbert,
  title={按需加载：多语言BERT的精简版本},
  author={阿卜杜伊, 阿明 and 普拉德尔, 卡米耶 and 西格尔, 格雷瓜尔},
  booktitle={SustaiNLP/EMNLP会议},
  year={2020}
}

联系方式

如有任何疑问、反馈或需求，请联系amine@geotrend.fr。