arXiv cs.AI· Junkai Chen, Yuhao He, Qianshan Wei, Junxiang You, Jingwen Shao, Junkai Lin, Zhongkai Yue, Xiaotian Ye, Zhengbo Jiao, Jiali Cheng, Zhijie Deng, Kening Zheng, Ruiqi Liu, Hadi Amiri, Yi Yu, Zhenan Sun, Qi Li, Ka-Ho Chow, Sijia Liu, Liang Wang, Jiaqi Li, Shu Wu·· 3 天前AI 评分30
Open-MMUnlearning：统一 MLLM 遗忘方法与评估的开源框架
Open-MMUnlearning: Unifying Methods and Evaluation for MLLM Unlearning
AI 导读
开源框架 Open-MMUnlearning 统一了多模态大模型（MLLM）遗忘的目标模型准备、数据处理、遗忘与评估流程，支持 5 个基准、4 个模型家族的 8 个 MLLM 和 12 种遗忘方法。
正文 · AI 翻译
作者：Junkai Chen、Yuhao He、Qianshan Wei、Junxiang You、Jingwen Shao、Junkai Lin、Zhongkai Yue、Xiaotian Ye、Zhengbo Jiao、Jiali Cheng、Zhijie Deng、Kening Zheng、Ruiqi Liu、Hadi Amiri、Yi Yu、Zhenan Sun、Qi Li、Ka-Ho Chow、Sijia Liu、Liang Wang、Jiaqi Li、Shu Wu
摘要：随着多模态大语言模型（MLLM）能力不断增强并得到广泛部署，对隐私和安全的担忧日益迫切。机器遗忘提供了一种应对这些担忧的方法，即从已训练的模型中移除指定信息，同时保留无关能力。然而，碎片化的实现与评估协议、不完整的鲁棒性测试，以及对指标可靠性理解的局限，使得 MLLM 遗忘领域的进展难以被系统评估。我们提出 Open-MMUnlearning，一个开源、可扩展的框架，通过共享接口和结构化配置，将目标模型准备、多模态数据处理、遗忘和评估整合在一起。该框架支持涵盖隐私、安全和版权的五个基准、来自四个模型家族的八个 MLLM，以及十二种遗忘方法。其评估套件联合评估遗忘有效性、保留效用，以及对模型干预、对抗输入和成员推理攻击的鲁棒性。使用统一的评估协议，我们比较了十种具有代表性的遗忘方法。在该比较中，GD 和 MIP-Editor 并列总体得分最高：GD 取得最高的遗忘质量，而 MIP-Editor 保留了更高的模型效用。我们进一步引入指标元评估协议，使用对目标知识具有受控暴露程度的模型来测试忠实性，并在量化和再学习下测试鲁棒性。在评估的十三个指标中，BLEU 取得最高的综合可靠性得分。KS-Test 取得最高的忠实性 AUC，但在鲁棒性方面表现较差。总之，该框架和这些发现支持 MLLM 遗忘方法的可复现比较，以及对评估可靠性的系统评估。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.10358 [cs.AI] |
| （或 arXiv:2610.10358v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.10358 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Junkai Chen [查看邮箱]
[v1]
2026年10月7日星期三 16:30:59 UTC（1,666 KB）
[v2]
2026年10月13日星期二 10:15:51 UTC（1,669 KB）
来源：arXiv cs.AI · arxiv.org