语言:

• 英语 评估指标:
• 困惑度 任务标签:
• 句子相似度 作者:
• 马克西米利安·G·舒赫 标签:
• PubChem
• 化学
• 生物学
• DeBERTa-v3

TwinBooster

PubChemDeBERTa增强版：基于PubChem生物测定语料库微调的DeBERTa V3基础模型

融合大语言模型与Barlow Twins及梯度提升技术以增强分子属性预测

马克西米利安·G·舒赫，达维德·博尔迪尼，斯蒂芬·A·西贝尔

@ 有机化学II讲席， 慕尼黑工业大学自然科学学院， 德国慕尼黑工业大学

摘要

药物研发的成功依赖于对分子活性和属性的精准预测。虽然计算机辅助分子属性预测已展现出巨大潜力，但其应用至今仍局限于数据量充足的检测项目。本研究通过微调的大语言模型整合基于文本信息的生物检测数据，结合采用新型自监督学习方法的孪生神经网络Barlow Twins。该架构同时利用检测信息和分子指纹来提取真实的分子信息。TwinBooster通过提供最先进的零样本学习任务，实现了对未知生物检测和分子属性的预测。值得注意的是，我们的人工智能流程在FS-Mol基准测试中展现出卓越性能。这一突破性进展展示了深度学习在数据通常稀缺的关键属性预测任务中的应用。通过加速药物研发早期活性分子的识别，该方法有望助力新疗法的快速发现。