语言: 多语言

数据集: 维基百科

许可证: Apache-2.0

distilbert-base-en-it-cased（蒸馏版多语言BERT英意双语模型）

我们发布了distilbert-base-multilingual-cased的轻量版本，可自定义支持语言数量。

这些定制版本能生成与原始模型完全一致的语义表示，完美保留原始准确率。

更多技术细节请参阅论文：按需加载：多语言BERT的轻量化版本

使用方式

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/distilbert-base-en-it-cased")
model = AutoModel.from_pretrained("Geotrend/distilbert-base-en-it-cased")

如需生成其他多语言Transformer的轻量版本，请访问我们的GitHub仓库

引用格式

@inproceedings{smallermdistilbert,
  title={Load What You Need: Smaller Versions of Mutlilingual BERT},
  author={Abdaoui, Amine and Pradel, Camille and Sigel, Grégoire},
  booktitle={SustaiNLP / EMNLP},
  year={2020}
}

联系方式

如有任何疑问、反馈或需求，请联系amine@geotrend.fr