arXiv cs.AI· Burak Bakkar, Hana Moalla, Mohamed Salem Jedidi, Haifa Ben Messaoud, Nicolas Lopez Carranza·· 1 天前AI 评分27
用领域专用大语言模型推进临床试验结果预测
Advancing Clinical Trial Outcome Prediction with Domain-Specific Large Language Models
AI 导读
BioBERT（108M 参数）与 BioMistral（7B 参数）在 TOP 基准（12,477 项试验）上做分期结果预测，四种语言模型变体的 ROC-AUC（0.613–0.772）和 PR-AUC（0.649–0.901）均超过已发表的 HINT 结果，PR-AUC 相对提升 10–20%。
正文 · AI 翻译
摘要：临床试验失败是高效药物开发的主要障碍，会带来巨额成本并延迟患者获得有效疗法。诸如分层交互网络（HINT）之类的结构化方法通过显式建模药物、疾病和方案之间的交互来预测试验结果，但对试验注册信息中的自由文本利用有限。我们在 TOP 基准（12,477 项试验）上评估了两个领域特定语言模型 BioBERT（1.08 亿参数）和 BioMistral（70 亿参数）用于阶段级结果预测，将每项试验表示为基于十个 this http URL 字段构建的文本。我们将微调（BioBERT 采用全量微调，BioMistral 采用低秩适配）与探测（probing）进行比较，后者冻结预训练模型，仅在其嵌入上训练一个轻量级分类器。在每个阶段的留出测试集上，全部四个语言模型变体的 ROC-AUC（0.613--0.772）和 PR-AUC（0.649--0.901）均高于已发表的 HINT 结果，对应 PR-AUC 相对提升 10--20\%。F1 差异较小且方向不一，包括 HINT 在内的任何模型都未明显超过对所有试验均预测成功的平凡分类器的 F1。在测试的配置下，探测的表现与微调相当：微调模型在 I 期和 II 期的 ROC-AUC 和 PR-AUC 上得分最高，而冻结的 BioMistral 嵌入在 III 期表现最佳（ROC-AUC 0.772；PR-AUC 0.901），尽管各变体之间的大多数差异低于 0.03 且未进行显著性检验。这些结果表明，预训练的生物医学表示已经编码了与试验结果相关的信号，并且对于该任务而言，探测是比微调计算成本更低的替代方案。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.41710 [cs.AI] |
| （或 arXiv:2610.41710v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.41710 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Burak Bakkar [查看邮箱]
[v1]
2026 年 10 月 30 日星期五 13:17:00 UTC（1,947 KB）
来源：arXiv cs.AI · arxiv.org