语言: "en" 标签:

• bert
• 医疗
• 临床
• 诊断
• 文本分类 缩略图: "https://core.app.datexis.com/static/paper.png" 小部件:
• 文本: "高血压患者入住ICU。"

CORe模型 - 临床诊断预测

模型描述

CORe（临床结局表征）模型在论文《利用自监督知识整合从入院记录预测临床结局》中提出。该模型基于BioBERT，并通过专门的临床结局预训练目标，在临床记录、疾病描述和医学文章上进行了进一步预训练。

此模型检查点针对诊断预测任务进行了微调。模型以患者入院记录作为输入，输出多标签ICD9编码预测。

模型预测

模型共对9237个标签进行预测，包括3位和4位ICD9编码及其文本描述。4位编码和文本描述有助于在训练过程中向模型引入更多主题和层次信息（参见论文第4.2节《ICD+：ICD层次结构的整合》）。我们建议在推理时仅使用3位编码预测，因为我们的工作中仅对这些进行了评估。

如何使用CORe诊断预测

您可以通过transformers库加载模型：

from transformers import AutoTokenizer, AutoModelForSequenceClassification
tokenizer = AutoTokenizer.from_pretrained("bvanaken/CORe-clinical-diagnosis-prediction")
model = AutoModelForSequenceClassification.from_pretrained("bvanaken/CORe-clinical-diagnosis-prediction")

以下代码展示了一个推理示例：

input = "主诉：头痛\n\n现病史：58岁男性，有高血压病史，房颤服用华法林，因有生以来最严重的头痛就诊于急诊科。"

tokenized_input = tokenizer(input, return_tensors="pt")
output = model(**tokenized_input)

import torch
predictions = torch.sigmoid(output.logits)
predicted_labels = [model.config.id2label[_id] for _id in (predictions > 0.3).nonzero()[:, 1].tolist()]

注意：为了获得最佳性能，我们建议为每个标签单独确定阈值（本例中为0.3）。

更多信息

有关CORe的所有详情及联系方式，请访问CORe.app.datexis.com。

引用

@inproceedings{vanaken21,
  author    = {Betty van Aken and
               Jens-Michalis Papaioannou and
               Manuel Mayrdorfer and
               Klemens Budde and
               Felix A. Gers and
               Alexander Löser},
  title     = {Clinical Outcome Prediction from Admission Notes using Self-Supervised
               Knowledge Integration},
  booktitle = {Proceedings of the 16th Conference of the European Chapter of the
               Association for Computational Linguistics: Main Volume, {EACL} 2021,
               Online, April 19 - 23, 2021},
  publisher = {Association for Computational Linguistics},
  year      = {2021},
}