微件：

• 文本："与安慰剂组相比，阿司匹林组患者的头痛持续时间显著缩短（P<0.05）"

BioELECTRA-PICO

请使用以下引用格式引用我们的论文：

@inproceedings{kanakarajan-etal-2021-bioelectra,
    标题 = "{B}io{ELECTRA}：基于判别器的预训练生物医学文本编码器",
    作者 = "Kanakarajan, Kamal raj 和
      Kundumani, Bhuvana 和
      Sankarasubbu, Malaikannan",
    书籍标题 = "第20届生物医学语言处理研讨会论文集",
    月份 = 6月,
    年份 = "2021",
    地址 = "线上",
    出版商 = "计算语言学协会",
    网址 = "https://aclanthology.org/2021.bionlp-1.16",
    DOI = "10.18653/v1/2021.bionlp-1.16",
    页码 = "143--154",
    摘要 = "自然语言处理领域预训练策略的最新进展显著提升了模型在各种文本挖掘任务中的表现。我们采用ELECTRA提出的'替换令牌检测'预训练技术，使用生物医学文本和词汇从头开始预训练生物医学语言模型。我们推出BioELECTRA——一个针对生物医学领域适配ELECTRA框架的专用语言编码器模型。通过在BLURB和BLUE生物医学NLP基准测试上的评估，BioELECTRA在所有13个BLURB基准数据集及BLUE基准的4个临床数据集上（涵盖7种不同NLP任务）均超越先前模型，创下最新性能记录。基于PubMed和PMC全文预训练的BioELECTRA在临床数据集同样表现优异：在MedNLI数据集达到86.34%准确率（提升1.39%），在PubMedQA数据集实现64%准确率（提升2.98%）。",
}