跳到正文
arXiv cs.AI· Sathwik Karnik, Juyeop Kim, Sanmi Koyejo, Jong-Seok Lee, Somil Bansal·· 1 天前AI 评分26

RADS:用可达性约束强化学习让文本到图像扩散模型摆脱记忆化

Steering Away from Memorization: Reachability-Constrained Reinforcement Learning for Text-to-Image Diffusion

AI 导读

研究者提出 Reachability-Aware Diffusion Steering(RADS),一个离线训练、采样时生效的控制框架,通过在学习到的可达性价值函数引导下用强化学习扰动 caption 嵌入,把去噪轨迹推离记忆化区域。实验显示 RADS 在生成多样性(SSCD)、质量(FID)与对齐(CLIP)之间取得优于现有推理时基线的方法的帕累托前沿,且无需改动预训练模型。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:文本到图像扩散模型容易发生记忆化,暴露出其在训练集之外泛化能力的根本性不足。现有的缓解方法往往以牺牲图像质量或提示对齐为代价来减少记忆化。为此,我们提出可达性感知扩散引导(Reachability-Aware Diffusion Steering,RADS),这是一种离线训练、采样时控制框架,可在保持生成保真度的同时缓解记忆化。RADS 将扩散去噪过程建模为动力系统,并学习一个以策略为条件的可达性价值函数,用于估计去噪轨迹上未来的记忆化风险。这促成了一个约束强化学习(RL)公式,其中策略通过字幕嵌入空间中的扰动来学习将轨迹引导至远离记忆化的方向。实证评估表明,与最先进的推理时基线相比,RADS 在生成多样性(SSCD)、质量(FID)和对齐(CLIP)之间实现了更强的经验帕累托前沿。关键的是,RADS 在采样时应用学习到的控制器,将记忆化缓解与预训练模型分离。我们的网站见:此 https URL。
主题: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI);机器学习(cs.LG)
引用为: arXiv:2603.00140 [cs.CV]
  (或 arXiv:2603.00140v2 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2603.00140

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Sathwik Karnik [查看电子邮件]
[v1] 2026年2月24日星期二 09:07:08 UTC(16,350 KB)
[v2] 2026年11月11日星期三 23:25:27 UTC(43,202 KB)

来源:arXiv cs.AI · arxiv.org