language:

• zh thumbnail: https://ckip.iis.sinica.edu.tw/files/ckip_logo.png tags:
• pytorch
• lm-head
• bert
• zh license: gpl-3.0

CKIP 中文微型BERT模型

本项目提供繁体中文Transformer模型（包含ALBERT、BERT、GPT2）及自然语言处理工具（包含分词、词性标注、命名实体识别）。

项目主页

• https://github.com/ckiplab/ckip-transformers

贡献者

• 中央研究院词库小组（CKIP）马扬（作者&维护者）

使用方法

请使用BertTokenizerFast作为分词器，而非AutoTokenizer。

from transformers import (
  BertTokenizerFast,
  AutoModel,
)

tokenizer = BertTokenizerFast.from_pretrained('bert-base-chinese')
model = AutoModel.from_pretrained('ckiplab/bert-tiny-chinese')

完整使用说明及更多信息，请参阅 https://github.com/ckiplab/ckip-transformers 。