arXiv cs.AI· Hyeonjin Kim, Hangyeol Jung, Heechan Yun, Sungjun Yun, Dong-Jun Han·· 14 小时前AI 评分29
SAEParate：面向概念分离扩散模型遗忘的解耦稀疏表示
Disentangled Sparse Representations for Concept-Separated Diffusion Unlearning
AI 导读
SAEParate 通过概念感知对比学习在稀疏自编码器（SAE）隐空间中显式分离语义重叠概念，并结合交叉注意力引导的空间聚合强化概念相关区域。该方法在 UnlearnCanvas 上取得 SOTA，在风格-物体联合遗忘这一困难设置下提升尤为明显。论文已被 NeurIPS 2026 接收。
正文 · AI 翻译
摘要：在文本到图像扩散模型中遗忘特定概念，对于防止生成不良内容已变得越来越重要。在先前的方法中，基于稀疏自编码器（SAE）的方法因能够通过轻量级潜在特征操作抑制目标概念、而无需修改模型参数而受到关注。然而，主要为稀疏重建训练的 SAE 并未显式地强制概念层面的分离，使得语义相关的概念可以共享潜在特征。为解决这一问题，我们提出 SAEParate，它通过概念感知的对比学习在 SAE 潜在空间中显式分离语义重叠的概念，并辅以强调概念相关区域的交叉注意力引导空间聚合。此外，我们通过非线性变换增强编码器，以在该分离目标下提高其表达能力，从而获得更具概念判别性的潜在表示。在 UnlearnCanvas 上的实验展示了最先进的性能，在联合风格-对象遗忘这一具有挑战性的设置中提升尤为显著，而现有方法在该设置下会遭受目标概念与非目标概念之间的严重干扰。
| 评论： | 53 页，25 幅图。已被 NeurIPS 2026 接收 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；计算机视觉与模式识别（cs.CV） |
| 引用为： | arXiv:2605.12122 [cs.LG] |
| （或 arXiv:2605.12122v3 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2605.12122 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Hyeonjin Kim [查看邮箱]
[v1]
2026 年 5 月 12 日星期二 13:39:07 UTC（15,075 KB）
[v2]
2026 年 10 月 22 日星期四 09:02:42 UTC（17,884 KB）
[v3]
2026 年 10 月 26 日星期一 04:38:42 UTC（17,884 KB）
来源：arXiv cs.AI · arxiv.org