language: zh tags:

• wobert

介绍

TensorFlow版本

https://github.com/ZhuiyiTechnology/WoBERT

PyTorch版本

https://github.com/JunnYu/WoBERT_pytorch

安装说明（核心用于安装WoBertTokenizer）

注意：需确保transformers库版本≥4.7.0 由于WoBertTokenizer的实现与RoFormerTokenizer完全一致，直接调用RoFormerTokenizer即可

使用示例

import torch
from transformers import BertForMaskedLM as WoBertForMaskedLM
from transformers import RoFormerTokenizer as WoBertTokenizer

预训练模型路径列表 = [
    "junnyu/wobert_chinese_plus_base", "junnyu/wobert_chinese_base"
]
for 路径 in 预训练模型路径列表:
    文本 = "今天[MASK]很好，我[MASK]去公园玩。"
    tokenizer = WoBertTokenizer.from_pretrained(路径)
    model = WoBertForMaskedLM.from_pretrained(路径)
    inputs = tokenizer(文本, return_tensors="pt")
    with torch.no_grad():
        outputs = model(**inputs).logits[0]
    输出句子 = ""
    for 序号, 编码值 in enumerate(tokenizer.encode(文本)):
        if 编码值 == tokenizer.mask_token_id:
            候选词 = tokenizer.convert_ids_to_tokens(outputs[序号].topk(k=5)[1])
            输出句子 += "[" + "||".join(候选词) + "]"
        else:
            输出句子 += "".join(
                tokenizer.convert_ids_to_tokens([编码值],
                                                skip_special_tokens=True))
    print(输出句子)
# RoFormer    今天[天气||天||心情||阳光||空气]很好，我[想||要||打算||准备||喜欢]去公园玩。
# PLUS WoBERT 今天[天气||阳光||天||心情||空气]很好，我[想||要||打算||准备||就]去公园玩。
# WoBERT      今天[天气||阳光||天||心情||空气]很好，我[想||要||就||准备||也]去公园玩。

文献引用

Bibtex格式：

@techreport{zhuiyiwobert,
  title={WoBERT：基于词汇的中文BERT模型 - 追一科技},
  author={苏剑林},
  year={2020},
  url="https://github.com/ZhuiyiTechnology/WoBERT",
}