语言:

• 多语言
• 英语
• 法语
• 西班牙语
• 葡萄牙语
• 意大利语

数据集: 维基百科

许可证: apache-2.0

distilbert-base-en-fr-es-pt-it-cased

我们分享了distilbert-base-multilingual-cased的轻量版本，这些版本支持自定义数量的语言处理。

我们的版本能生成与原模型完全一致的表示，从而保持原始准确度。

更多信息请参阅我们的论文：按需加载：多语言BERT的轻量版本。

使用方法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/distilbert-base-en-fr-es-pt-it-cased")
model = AutoModel.from_pretrained("Geotrend/distilbert-base-en-fr-es-pt-it-cased")

如需生成其他多语言Transformer的轻量版本，请访问我们的Github仓库。

引用方式

@inproceedings{smallermdistilbert,
  title={按需加载：多语言BERT的轻量版本},
  author={阿布达维, 阿明 and 普拉德尔, 卡米尔 and 西格尔, 格雷瓜尔},
  booktitle={SustaiNLP / EMNLP},
  year={2020}
}

联系方式

如有任何疑问、反馈或请求，请联系amine@geotrend.fr。