推理: false
语言:

• 保加利亚语
  许可证: mit
  数据集:
• oscar
• chitanka
• wikipedia
  标签:
• torch

BERT BASE（区分大小写）

基于保加利亚语使用掩码语言建模（MLM）目标预训练的模型。该模型在这篇论文中首次提出，并在此代码库中首次发布。此模型区分大小写：它能区分"bulgarian"和"Bulgarian"。

模型描述

该模型的训练方式类似于RuBert，其中多语言Bert被适配用于俄语。

训练数据来自OSCAR、Chitanka和Wikipedia的保加利亚语文本。

使用方法

以下是如何在PyTorch中使用此模型：

>>> from transformers import pipeline
>>> 
>>> model = pipeline(
>>>     'fill-mask',
>>>     model='rmihaylov/bert-base-bg',
>>>     tokenizer='rmihaylov/bert-base-bg',
>>>     device=0,
>>>     revision=None)
>>> output = model("София е [MASK] на България.")
>>> print(output)

[{'score': 0.12665307521820068,
  'sequence': 'София е  столица на България.',
  'token': 2659,
  'token_str': 'столица'},
 {'score': 0.07470757514238358,
  'sequence': 'София е Перлата на България.',
  'token': 102146,
  'token_str': 'Перлата'},
 {'score': 0.06786204129457474,
  'sequence': 'София е  Столицата на България.',
  'token': 45495,
  'token_str': 'Столицата'},
 {'score': 0.05533991754055023,
  'sequence': 'София е  Столица на България.',
  'token': 100524,
  'token_str': 'Столица'},
 {'score': 0.05485989898443222,
  'sequence': 'София е  столицата на България.',
  'token': 2294,
  'token_str': 'столицата'}]