arXiv cs.CL· Lingyun Song, Ziyao Chen, Kang Pan, Xiaolin Han, Yifei Zhang, Xiaoqi Wang, Yudai Pan, Xuequn Shang·· 10 小时前AI 评分29
ROSE：面向多模态大模型终身知识编辑的风险感知正交子空间导航框架
ROSE: Risk-Aware Orthogonal Subspace Navigation for Lifelong Knowledge Editing in Multimodal Large Language Models
AI 导读
研究者提出 ROSE，一个面向多模态大模型终身知识编辑的风险感知正交子空间导航框架，通过将参数更新限制在已编辑子空间的正交补空间来抑制灾难性遗忘。该框架引入动态计算的风险掩码保护关键事实参数子空间，并在推理时用原型锚定的语义门控与扰动驱动的子空间融合激活编辑知识。在两个主流多模态基准的 5 项指标上，ROSE 与 SOTA 方法相当，并在超过 1,000 次连续更新中保持稳定，代码已开源。
正文 · AI 翻译
摘要：多模态大语言模型（MLLMs）需要持续进行事实更新以保持时效性，然而终身知识编辑仍是一项艰巨的挑战。主要障碍是严重的局部性侵蚀与灾难性遗忘，即顺序编辑不可避免地干扰预训练能力和先前的更新。本文提出 \textbf{ROSE}，一个用于终身知识\textbf{编}辑的\textbf{风}险感知\textbf{正}交\textbf{子}空间导航框架。ROSE 通过将参数更新限制在先前编辑子空间的正交补空间内来应对遗忘问题。关键在于，它引入了一种风险引导机制，利用动态计算的风险掩码来保护对模型稳定性至关重要的特定事实参数子空间。在推理阶段，ROSE 采用多粒度知识集成策略，以原型锚定的语义门控和扰动驱动的子空间融合为特色，从而针对相关查询精确激活已编辑知识，同时限制对无关输入的干扰。在两个主流多模态基准上的全面实验表明，ROSE 在五项关键指标上与最先进方法相比具有竞争力，同时在超过 $1,000$ 次顺序更新中保持出色的稳定性。我们的代码可在 此 https URL 获取。
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；计算机视觉与模式识别（cs.CV） |
| 引用为： | arXiv:2611.09770 [cs.CL] |
| （或 arXiv:2611.09770v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.09770 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Ziyao Chen [查看邮箱]
[v1]
2026年11月6日星期五 17:32:49 UTC（480 KB）
来源：arXiv cs.CL · arxiv.org