跳到正文
arXiv cs.CL· Danyang Zhao, Sendong Zhao, Yanrui Du, Haochun Wang, Ming Ma, Wenhao Li, Jingbo Wang, Jiatong Liu, Bing Qin·· 3 天前AI 评分24

PULSE:面向医学推理的步级检索时机控制方法

Taking the PULSE of Medical Reasoning: Step-Level Retrieval Timing for Knowledge-Grounded Inference

AI 导读

研究者提出 PULSE,一种轻量级探测方法,利用模型内部表征作为步级检索控制信号:错误推理步骤的层间波动显著高于正确步骤,据此训练紧凑探针在每步完成后检测事实错误,并自适应触发检索与步骤重生成。在四个医学基准上,PULSE 定时检索的准确率与逐步穷举检索相当,同时将检索调用减少 72%,并可迁移到未见过的法律领域。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:可靠的医学推理要求 LLM 动态访问外部生物医学证据,以提高事实可信度和推理准确性。然而,不加区分的检索会引入噪声和延迟,从而提出一个关键的检索时机问题:在每个推理步骤,系统必须判断模型内部知识是否可靠,或是否需要外部证据。我们提出 PUlSE,一种轻量级探测方法,利用模型的内部表示作为步骤级检索控制的内在信号。我们的后验轨迹分析表明,错误步骤的层间波动性显著高于正确步骤,表明内部知识不稳定。基于这一发现,PUlSE 在层间几何特征上训练一个紧凑的探针,以在步骤完成时检测事实错误,并将其用作检索和步骤再生成的自适应触发器。在四个医学基准上,PUlSE 定时检索在准确率上匹配穷举式逐步检索,同时将检索调用减少 72%,并可迁移到未见过的法律领域,表明其潜在的领域无关通用性。总体而言,我们的研究为将检索触发设计从表面级置信度估计转向内部激活动态以实现自适应访问迈出了初步一步。
主题: 计算与语言(cs.CL)
引用为: arXiv:2610.20292 [cs.CL]
  (或 arXiv:2610.20292v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.20292

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Danyang Zhao [查看邮箱]
[v1] 2026年10月14日星期三 14:47:03 UTC(6,462 KB)

来源:arXiv cs.CL · arxiv.org