语言:

• 英文 缩略图: "https://www.onebraveidea.org/wp-content/uploads/2019/07/OBI-Logo-Website.png" 标签:
• 去标识化
• 医疗记录
• 电子健康档案
• 受保护健康信息 数据集:
• I2B2 评估指标:
• F1分数
• 召回率
• AUC曲线下面积 示例:
• 文本: "医生出院小结 入院日期: 1982年10月12日 出院日期: 1982年10月22日 患者信息 杰克·里奇，54岁男性（出生日期=1928年1月21日）。"
• 文本: "家庭住址: 加利福尼亚州圣地亚哥公园大道123号，邮编03245。家庭电话: 202-555-0199（住宅）。"
• 文本: "医院护理团队 科室: 骨科 住院主治医师: 罗杰·C·凯利医学博士 主治医师电话: (634)743-5135 出院病区: HCS843 初级保健医师: 哈桑·V·金医学博士 512-832-5025。" 许可证: MIT

模型描述

• 基于ClinicalBERT [Alsentzer等人，2019]微调的医疗记录去标识化模型。
• 序列标注（令牌分类）：该模型训练用于预测受保护健康信息（PHI/PII）实体（片段）。受保护健康信息类别清单由HIPAA提供。
• 每个令牌可分类为非PHI或11种PHI类型之一。通过BILOU标记法将令牌预测聚合为片段。
• 训练使用的PHI标签及其他细节参见：标注指南
• 更多关于模型使用、数据格式等实用信息详见GitHub仓库：鲁棒去标识化。

使用方法

• 模型工作原理演示（利用预测结果去标识化医疗记录）参见：医疗记录去标识化。
• 模型前向传播步骤参见：前向传播
• 简要步骤：
  • 分句（模型将句子重新聚合为记录级别）并对数据集进行令牌化。
  • 调用模型的预测函数收集预测结果（即每个令牌的预测）。
  • 还可利用模型预测从原始记录/文本中移除PHI信息。

数据集

• 训练使用I2B2 2014 [Stubbs和Uzuner，2015]数据集。

训练流程

• 训练步骤参见：训练过程。"model_name_or_path"参数设置为："emilyalsentzer/Bio_ClinicalBERT"。

  • 使用spacy的en_core_sci_sm分句器对数据集分句。
  • 基于spacy的en_core_sci_sm令牌化器构建自定义令牌化器。
  • 每句前后各添加32个上下文令牌（来自相邻句子）。
  • 添加的令牌不参与学习（不计入损失计算），仅作为上下文补充。
  • 每个序列最多含128个令牌（含添加的32个）。超长序列会被分割。
  • 采用BILOU标记法的分句令牌化数据集用于模型训练。
  • 该模型基于预训练RoBERTa模型微调。

• 训练细节：

  • 输入序列长度：128
  • 批次大小：32
  • 优化器：AdamW
  • 学习率：4e-5
  • 丢弃率：0.1

评估结果

问题反馈？

请在GitHub仓库提交问题：鲁棒去标识化。