标签:

• 训练生成
• 化学
• 医学
• 药物相互作用 指标:
• F2分数
• 召回率
• 精确率
• 马修斯相关系数 模型索引:
• 名称: Bio_ClinicalBERT_DDI_finetuned 结果:
  • 任务: 名称: 药物-药物相互作用分类 类型: 文本分类 数据集: 名称: DrugBank 类型: REST API 指标:
    • 名称: 召回率 类型: 召回率 值: 0.7849 小部件:
• 文本: "[Ca++].[O-]C([O-])=O [SEP] OCC@HC@@HC@HC@HCO" 示例标题: "药物1 [SEP] 药物2" 管道标签: 文本分类

Bio_ClinicalBERT_DDI_finetuned

该模型基于Bio_ClinicalBERT初始化，并在BERT池化层后添加了三个隐藏层。模型训练数据来自DrugBank数据库和美国国家医学图书馆API提取的药物相互作用数据集。 在测试集上取得如下结果：

• F2分数: 0.7872
• AUPRC: 0.869
• 召回率: 0.7849
• 精确率: 0.7967
• 马修斯相关系数: 0.3779

模型描述

通过两种药物的化学结构预测药物间相互作用(DDI)。模型返回两种药物存在相互作用的概率值。

使用范围与限制

构建输入时需使用"[SEP]"标记分隔两种药物，正确输入示例如下：

药物1 = "[Ca++].[O-]C([O-])=O"  #碳酸钙
药物2 = "OC[C@H](O)[C@@H](O)[C@H](O)[C@H](O)CO"   #山梨醇
标准输入 = "[Ca++].[O-]C([O-])=O [SEP] OC[C@H](O)[C@@H](O)[C@H](O)[C@H](O)CO"

训练与评估数据

为避免数据泄露并确保模型能预测新药相互作用，验证集和测试集中的药物1或药物2均未出现在训练集中，其SMILES化学结构在训练过程中完全未被接触。

训练流程

使用AWS EC2 g5.4xlarge实例，配备24GB GPU显存。

训练超参数

训练采用以下超参数：

• 学习率: 0.01
• 训练批大小: 32
• 评估批大小: 32
• 随机种子: 7
• 优化器: 带权重衰减(1e-04)的Adadelta
• 学习率调度器: 余弦退火
• 训练轮次: 4

训练结果

框架版本

• Transformers 4.30.2
• Pytorch 2.0.1
• Datasets 2.13.1
• Tokenizers 0.13.3