语言:

• 多语言
• 英语
• 法语
• 西班牙语
• 德语
• 中文
• 阿拉伯语
• 俄语
• 越南语
• 希腊语
• 保加利亚语
• 泰语
• 土耳其语
• 印地语
• 乌尔都语
• 斯瓦希里语

数据集: 维基百科

许可证: Apache-2.0

示例:

• 文本: "谷歌创造了460亿[MASK]的收入。"
• 文本: "巴黎是[MASK]的首都。"
• 文本: "阿尔及尔是[MASK]最大的城市。"
• 文本: "巴黎是法国的[MASK]。"
• 文本: "巴黎是[MASK]的首都。"
• 文本: "美国选举于2020年11月[MASK]举行。"
• 文本: "瑞士位于欧洲的[MASK]"
• 文本: "我叫穆罕默德，住在[MASK]。"

bert-base-15种语言-大小写敏感

我们分享了bert-base-multilingual-cased的较小版本，这些版本处理自定义数量的语言。

与distilbert-base-multilingual-cased不同，我们的版本完全保留了原始模型生成的表示，从而保持了原始准确性。

以下测量数据基于Google Cloud n1-standard-1机器（1 vCPU，3.75 GB）计算：

支持的语言：英语、法语、西班牙语、德语、中文、阿拉伯语、俄语、越南语、希腊语、保加利亚语、泰语、土耳其语、印地语、乌尔都语和斯瓦希里语。

更多信息请参阅我们的论文：按需加载：多语言BERT的较小版本。

使用方法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/bert-base-15lang-cased")
model = AutoModel.from_pretrained("Geotrend/bert-base-15lang-cased")

如需生成其他较小版本的多语言转换器，请访问我们的Github仓库。

引用方式

@inproceedings{smallermbert,
  title={按需加载：多语言BERT的较小版本},
  author={阿卜杜伊, 阿明 and 普拉德尔, 卡米尔 and 西格尔, 格雷瓜尔},
  booktitle={SustaiNLP / EMNLP},
  year={2020}
}

联系方式

如有任何问题、反馈或请求，请联系amine@geotrend.fr。