arXiv cs.AI· Runxun Zhang, Onofrio Antonio Catalano, Jinqiao Wang, Jingwei Wei·· 4 小时前AI 评分34
并非所有证据都可采信:工具增强医疗智能体的证据治理框架
Not All Evidence Is Admissible: Evidence Governance for Tool-Augmented Medical Agents
AI 导读
研究提出 context-independent evidence governance(CIEG),将“判定哪些工具输出可作为证据”从推理模型中分离出来,以解决工具输出被默认采信导致的“证据劫持”问题。
正文 · AI 翻译
摘要:工具增强的医疗智能体将工具返回的任何内容都视为证据。我们表明这种默认做法代价高昂:医疗工具会静默失败,而冻结的推理器无法忽略进入其上下文的内容,因此许多它本可正确回答的病例在加入工具输出后被翻转为错误。我们将此称为证据劫持。$\mathcal{V}$-信息解释了这一现象:推理器失去了忽略的选项,因此工具输出可能携带负的可用信息,而将保留哪些内容的决策移到推理器之外可恢复该选项。该理论进一步表明,任何过滤收益的一部分仅仅来自让推理器看到更少,只有基于内容的选择才能让它看得更好。在此基础上,我们将工具增强推理重构为证据治理,将决定什么算作证据与负责回答的推理器分离,并提出上下文无关证据治理(CIEG),这是首个在获取之后裁定每个单独工具输出是否可作为证据进入的医疗智能体框架。每个工具输出都写为一张可对照原始输入进行检查的卡片;一个仅看到输入和卡片的独立检查器决定哪些卡片成为证据;推理器仅根据被准入的卡片作答,全程无需任何训练。在医疗问答、眼底青光眼筛查和胸部 X 光肺炎分类上,它在同等规模模型中取得了最高准确率,并以更低成本显著优于基于相同骨干构建的最先进工具使用智能体和多智能体系统。
| 评论: | 11 页 |
| 主题: | 人工智能(cs.AI);计算机视觉与模式识别(cs.CV) |
| 引用为: | arXiv:2611.22169 [cs.AI] |
| (或 arXiv:2611.22169v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.22169 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Runxun Zhang [查看电子邮件]
[v1]
2026 年 11 月 17 日星期二 04:01:28 UTC(491 KB)
来源:arXiv cs.AI · arxiv.org