语言:

• 俄语 许可证: apache-2.0

MedRuRobertaLarge 模型

模型描述

该模型是基于ruRoberta-large进行微调的版本。
微调过程的代码可在此处查看。
模型在专门收集的超过30,000份俄语医学病历数据集上进行了微调。
该数据集可在此处获取。

该模型是作为硕士项目的一部分而创建，旨在开发一种使用BERT模型作为候选排序的方法来纠正医学病史中的打字错误。
该项目是开源的，可在此处查看。

如何使用该模型

您可以直接使用管道进行掩码语言建模：

>>> from transformers import pipeline
>>> pipeline = pipeline('fill-mask', model='DmitryPogrebnoy/MedRuRobertaLarge')
>>> pipeline("У пациента <mask> боль в грудине.")
[{'score': 0.2467374950647354,
  'token': 9233,
  'token_str': ' сильный',
  'sequence': 'У пациента сильный боль в грудине.'},
 {'score': 0.16476310789585114,
  'token': 27876,
  'token_str': ' постоянный',
  'sequence': 'У пациента постоянный боль в грудине.'},
 {'score': 0.07211139053106308,
  'token': 19551,
  'token_str': ' острый',
  'sequence': 'У пациента острый боль в грудине.'},
 {'score': 0.0616639070212841,
  'token': 18840,
  'token_str': ' сильная',
  'sequence': 'У пациента сильная боль в грудине.'},
 {'score': 0.029712719842791557,
  'token': 40176,
  'token_str': ' острая',
  'sequence': 'У пациента острая боль в грудине.'}]

或者您可以加载模型和分词器并进行所需操作：

>>> from transformers import AutoTokenizer, AutoModelForMaskedLM
>>> tokenizer = AutoTokenizer.from_pretrained("DmitryPogrebnoy/MedRuRobertaLarge")
>>> model = AutoModelForMaskedLM.from_pretrained("DmitryPogrebnoy/MedRuRobertaLarge")