arXiv cs.AI· Zhiwu Wang, Yichen Wu, Jinqian Yang, Yizhou Yang, Renzhen Wang, Qian Zhao, Deyu Meng·· 14 小时前AI 评分31
多模态知识编辑中的证据错位问题:诊断与 VICE 缓解方法
Diagnosing and Mitigating Evidence Misgrounding in Multimodal Knowledge Editing
AI 导读
研究提出 VICE(Visual In-Context Editing),一个基于检索的框架,将编辑存入外部记忆并通过视觉上下文演示应用,以缓解多模态知识编辑中的证据错位问题。
正文 · AI 翻译
摘要:多模态知识编辑旨在更新多模态大语言模型(MLLMs)中基于视觉的事实,同时保持无关的文本和视觉行为不变。然而,标准的答案级指标可能掩盖证据错位问题:一次编辑可能在原始图像上产生目标答案,却仍然对偶然上下文敏感,而非对预期的视觉证据敏感。为了在受控环境中考察这一问题,我们构建了 WaterBird-Edit,这是一个分析数据集,将鸟类栖息地标签与背景上下文解耦,并衡量当目标证据保留但背景发生变化时,编辑后的预测是否保持稳定。受这一诊断的启发,我们提出了 VICE(Visual In-Context Editing),一个基于检索的框架,将编辑存储在外部记忆中,并通过旨在暴露任务相关证据的视觉上下文演示来应用这些编辑。在三个标准基准上的实验表明,VICE 实现了强大的终身编辑性能,而在 WaterBird-Edit 上的结果表明,它大幅降低了对受控背景变化的敏感性。代码和数据集可在 此 https URL 获取。
| 注释: | 已被 EMNLP 2026 Findings 接收 |
| 主题: | 计算机视觉与模式识别(cs.CV);人工智能(cs.AI) |
| 引用为: | arXiv:2610.33075 [cs.CV] |
| (或 arXiv:2610.33075v1 [cs.CV] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.33075 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Zhiwu Wang [查看邮箱]
[v1]
2026年10月21日 星期三 07:00:01 UTC(605 KB)
来源:arXiv cs.AI · arxiv.org