language: zh tags:

• exbert license: apache-2.0 datasets:
• bookcorpus
• wikipedia

BERT基础模型（无大小写区分）

模型描述

该模型是基于英语语言，采用掩码语言建模（MLM）目标进行预训练的模型。其原理首次发表于此论文，并在此代码库中首次发布。此模型为无大小写区分版本：不区分"english"和"English"等大小写形式。

原始实现

访问此链接查看原始实现。

使用方法

通过git clone https://huggingface.co/OWG/bert-base-uncased克隆仓库下载模型。

随后可通过以下代码使用该模型：

from onnxruntime import InferenceSession, SessionOptions, GraphOptimizationLevel
from transformers import BertTokenizer


tokenizer = BertTokenizer.from_pretrained("bert-base-uncased")

options = SessionOptions()
options.graph_optimization_level = GraphOptimizationLevel.ORT_ENABLE_ALL

session = InferenceSession("path/to/model.onnx", sess_options=options)
session.disable_fallback()

text = "用任意需要编码的文本替换此处内容。"
input_ids = tokenizer(text, return_tensors="pt", return_attention_mask=True)

inputs = {k: v.cpu().detach().numpy() for k, v in input_ids.items()}
outputs_name = session.get_outputs()[0].name

outputs = session.run(output_names=[outputs_name], input_feed=inputs)