arXiv cs.AI· Chenlu Ding, Jiancan Wu, Leheng Sheng, Fan Zhang, Yancheng Yuan, Xiang Wang, Xiangnan He·· 10 小时前AI 评分35
MLLMEraser：通过激活引导实现多模态大模型测试时遗忘
MLLMEraser: Achieving Test-Time Unlearning in Multimodal Large Language Models through Activation Steering
AI 导读
MLLMEraser 提出一种无需训练、输入感知的测试时遗忘框架，通过激活引导在不更新参数的情况下动态擦除多模态大模型中的知识。该方法对比对抗扰动下的知识回忆与知识擦除图文对，构建多模态擦除方向，并设计输入感知引导机制自适应决定何时及如何应用。在 LLaVA-1.5 和 Qwen-2.5-VL 上的实验显示，其遗忘效果优于现有 SOTA 基线，计算成本更低且对保留知识的效用损伤极小。
正文 · AI 翻译
摘要：多模态大语言模型（MLLMs）在视觉-语言任务中展现出卓越能力，但其大规模部署引发了关于记忆的私有数据、过时知识和有害内容的紧迫担忧。现有的 MLLM 遗忘方法通常采用基于训练的策略，如梯度上升或偏好优化，但这些方法计算成本高、不可逆，且常常扭曲保留的知识。在本工作中，我们提出 MLLMEraser，一个输入感知、无需训练的测试时遗忘框架。我们的方法利用激活引导实现无需参数更新的动态知识擦除。具体而言，我们通过对比对抗性扰动的知识回忆图文对与知识擦除对应物，构建多模态擦除方向，同时捕捉文本和视觉差异。为防止不必要的干扰，我们进一步设计了一种输入感知引导机制，自适应地确定何时以及如何应用擦除方向，在保留知识上保持效用，同时对指定内容强制遗忘。在 LLaVA-1.5 和 Qwen-2.5-VL 上的实验表明，MLLMEraser 始终优于最先进的 MLLM 遗忘基线，以更低计算成本和最小效用退化实现更强的遗忘性能。
| 评论： | 已被 NeurIPS 2026（第40届神经信息处理系统大会）接收 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2510.04217 [cs.LG] |
| （或 arXiv:2510.04217v4 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2510.04217 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Chenlu Ding [查看邮箱]
[v1]
2025年10月5日 周日 14:20:17 UTC（891 KB）
[v2]
2025年10月10日 周五 11:47:30 UTC（890 KB）
[v3]
2026年2月2日 周一 12:41:26 UTC（965 KB）
[v4]
2026年10月30日 周五 08:25:33 UTC（1,090 KB）
来源：arXiv cs.AI · arxiv.org