语言: 中文

数据集: 维基百科

许可证: Apache-2.0

蒸馏版中文基础模型（大小写敏感）

我们发布了多语言基础模型蒸馏版（大小写敏感）的精简版本，这些版本支持自定义语言数量。

我们的版本能生成与原模型完全一致的语义表示，完美保留原始准确率。

更多技术细节请参阅论文：按需加载：多语言BERT的精简版本。

使用方法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/distilbert-base-zh-cased")
model = AutoModel.from_pretrained("Geotrend/distilbert-base-zh-cased")

如需生成其他多语言Transformer的精简版本，请访问我们的GitHub仓库。

引用方式

@inproceedings{smallermdistilbert,
  title={按需加载：多语言BERT的精简版本},
  author={阿卜杜伊, 阿明 and 普拉德尔, 卡米耶 and 西格尔, 格雷瓜尔},
  booktitle={可持续自然语言处理/自然语言处理实证方法会议},
  year={2020}
}

联系方式

如有任何疑问、建议或需求，请联系amine@geotrend.fr。