arXiv cs.AI· Vikash Singh, Debargha Ganguly, Haotian Yu, Chengwei Zhou, Prerna Singh, Brandon Lee, Vipin Chaudhary, Gourav Datta·· 3 天前AI 评分30
面向视觉语言模型临床推理保证的神经符号形式化验证框架
Toward Guarantees for Clinical Reasoning in Vision Language Models via Formal Verification
AI 导读
研究者提出一种神经符号验证框架，将 VLM 生成的放射学报告自由文本自动形式化为结构化命题证据，并用 SMT 求解器 Z3 结合临床知识库判定每条诊断结论是被数学蕴含、幻觉还是遗漏。在五个胸部 X 光基准上评估七款 VLM，该验证器揭示了传统指标无法察觉的推理失败模式，如保守观察与随机幻觉。在标注数据集上，以求解器蕴含约束作为事后保证，可系统性消除无依据幻觉，显著提升诊断可靠性与精确率。
正文 · AI 翻译
摘要：视觉语言模型（VLM）在起草放射学报告方面展现出潜力，但它们经常出现逻辑不一致的问题，生成的诊断印象缺乏自身感知发现的支持，或遗漏了逻辑上必然的结论。标准的词汇指标会严重惩罚临床改写，并且无法在无参考设置下捕捉这些演绎失败。为了保障临床推理，我们引入了一个神经符号验证框架，可确定性地审计 VLM 生成报告的内部一致性。我们的流程将自由文本的放射学发现自动形式化为结构化命题证据，利用 SMT 求解器（Z3）和临床知识库来验证每个诊断声明在数学上是被蕴含、被幻觉生成还是被遗漏。在五个胸部 X 射线基准上评估七个 VLM，我们的验证器揭示了传统指标无法察觉的独特推理失败模式，例如保守观察和随机幻觉。在标注数据集上，强制执行求解器支持的蕴含关系可作为一种严格的事后保证，系统性地消除无支持的幻觉，从而显著提高生成式临床助手的诊断可靠性和精确度。
| 主题： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI）；计算与语言（cs.CL）；计算机科学中的逻辑（cs.LO） |
| 引用为： | arXiv:2602.24111 [cs.CV] |
| （或 arXiv:2602.24111v2 [cs.CV] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2602.24111 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Vikash Singh [查看电子邮件]
[v1]
2026年2月27日星期五 15:49:59 UTC（1,414 KB）
[v2]
2026年10月13日星期二 14:15:15 UTC（1,641 KB）
来源：arXiv cs.AI · arxiv.org