arXiv cs.AI· Sadif Ahmed, Soumya Swagata Biswas, Rifat Shahriyar, Chowdhury Mohammad Rakin Haider·· 3 天前AI 评分47
医学视觉语言模型的回归式谄媚：伪造证据下正确诊断为何被放弃
Seeing Through the Forgery Is Not Enough: Regressive Sycophancy under Fabricated Evidence in Medical Vision-Language Models
AI 导读
研究者在 400 道 VQA-RAD 是非题、19,200 轮多轮对话中测试四款开源医学 VLM，发现未披露文档为合成时，模型放弃了 80.1% 的 6,488 个正确答案。
正文 · AI 翻译
摘要：医学视觉语言模型可以分析给定的 CT 扫描，并正确检测出视野中的双肾。继续这一对话，如果用户提供一份方向相反的处方，医学 VLM 往往会迎合性地选择调整其诊断。在这项工作中，我们研究了伪造证据下的退行性迎合，即当反驳伴随一份伪造文件时，模型会放弃正确答案。我们在 400 个 VQA-RAD 是/否问题上，对四个开放 VLM 进行了 19,200 轮多轮对话测试，分别在有和没有伪造处方的情况下进行。在没有披露文件为合成的情况下，模型放弃了 6,488 个正确答案中的 80.1%。值得注意的是，在各自的一种脚本下，同一份处方将 Qwen2.5-VL-7B 的翻转率从 45.9% 提高到 89.6%，并将 Qwen3-VL-8B 的翻转率从 77.7% 降低到 50.9%。在 3,232 次带处方的对话中，有 915 次（28.3%）模型拒绝了处方，同时仍保留了正确答案，其中 40% 在后续轮次中发生了翻转。披露文件为合成的系统提示句将某个模型的翻转率从 77.8% 降低到 47.3%。因此，我们得出结论：对伪造的认知并不能阻止模型采纳其答案。
| 评论： | 16 页，5 幅图，14 张表。Sadif Ahmed 和 Soumya Swagata Biswas 贡献相同。代码和数据：此 https URL |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.17989 [cs.CL] |
| （或 arXiv:2610.17989v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.17989 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
发件人：Sadif Ahmed [查看电子邮件]
[v1]
2026 年 10 月 13 日星期二 08:55:06 UTC（231 KB）
来源：arXiv cs.AI · arxiv.org