跳到正文
arXiv cs.AI· Joan Serr\`a, Dipam Goswami, Fabio Morreale, Wei-Hsiang Liao, Yuki Mitsufuji·· 3 天前AI 评分25

扩散模型训练数据归因:镜像遗忘与噪声一致偏斜(MUCS)

Training data attribution in diffusion models via mirrored unlearning and noise-consistent skew

AI 导读

研究者提出 MUCS 方法,通过有界镜像梯度上升微调第二个模型,并用一致噪声样本测量其相对原模型的归一化偏斜,实现扩散模型的训练数据归因。该方法在三个数据集上大幅超越现有方法,并分析了影响实例重叠与 TDA 集成等新问题,已被 NeurIPS26 接收。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:训练数据归因(TDA)应能实现生成模型的可解释性,并促进各种相关下游任务。然而,当前的 TDA 方法缺乏可靠性和鲁棒性,阻碍了它们在真实场景中的采用。在本文中,我们朝着为扩散模型实现更可靠、更鲁棒的 TDA 迈出了决定性的一步。我们提出使用镜像遗忘与噪声一致偏斜(MUCS)来执行 TDA。其思路是用有界镜像梯度上升微调第二个模型,并使用一致的噪声样本测量该模型相对于原始模型的归一化偏斜。我们表明,尽管 MUCS 在概念上简单且通用,但它在三个不同数据集上系统性地大幅优于现有方法。我们还研究了核心设计选择对最终性能的影响,并分析了关于生成项之间重要实例重叠以及 TDA 方法集成潜力的新方面。我们相信,我们的发现可能对更一般的遗忘设置,以及需要比较扩散损失的任务具有更广泛的意义。
评论: 已被 NeurIPS26 接收;21 页,5 幅图,9 张表(含附录)
主题: 机器学习(cs.LG);人工智能(cs.AI);机器学习(stat.ML)
引用为: arXiv:2605.17938 [cs.LG]
  (或 arXiv:2605.17938v2 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2605.17938

arXiv 颁发的 DOI,通过 DataCite

提交历史

来自:Joan Serrà [查看电子邮件]
[v1] 2026 年 5 月 18 日星期一 06:52:26 UTC(2,392 KB)
[v2] 2026 年 10 月 13 日星期二 16:48:43 UTC(2,400 KB)

来源:arXiv cs.AI · arxiv.org