arXiv cs.AI· Anubhav Jain, Takashi Shibuya, Yuya Kobayashi, Yuhta Takida, Nasir Memon, Julian Togelius, Yuki Mitsufuji·· 11 小时前AI 评分31
TraSCE：无需训练修复负提示词在越狱提示下的引导崩溃
Rethinking Negative Prompting for Concept Suppression: Unconditional Anchoring and Localized Guidance
AI 导读
针对负提示词在越狱提示下出现的“引导崩溃”问题，研究者提出免训练推理时方法 TraSCE，将崩溃时的回退目标从负提示词预测改为中性无条件预测，并用对齐局部化引导步骤主动触发该回退。在面向裸露与暴力的对抗提示基准上，TraSCE 显著提升了负提示词对越狱提示的鲁棒性，且无需训练、权重更新或预先收集概念专属数据，对通用图像质量影响较小。该方法还可用于抑制艺术风格与特定物体。
正文 · AI 翻译
摘要：文本到图像扩散模型已迅速从研究原型转变为广泛部署的工具。除了令人印象深刻的能力外，这些模型也可能生成有害或不良内容（例如 NSFW 图像），这促使人们需要实用的机制来移除此类概念。负向提示（negative prompting）使用负向提示预测作为引导锚点，是将采样轨迹引导远离不良概念的最广泛使用的机制之一。然而，对于越狱提示，它可能在一种我们称为 \emph{引导崩溃}（guidance collapse）的状态下失效，此时模型对提示和负向提示的去噪预测变得相似，导致驱动负向提示的引导差异消失，引导预测退化为负向提示预测，从而削弱抑制效果。为解决此问题，我们提出 TraSCE（Trajectory Steering for ConcEpt Suppression，概念抑制轨迹引导），一种无需训练的推理时方法，使负向提示在引导崩溃下依然可靠。TraSCE 结合两个互补组件：(i) 无条件锚定，使引导崩溃下的回退成为中性的无条件预测而非负向提示预测；(ii) 对齐局部化引导步骤，对对抗性提示有意诱发这种崩溃并将样本引导至无条件回退，同时对良性提示的干扰最小。我们在针对裸体和暴力的对抗性提示基准上评估 TraSCE，并进一步展示其适用于抑制艺术风格和物体。在这些设置中，TraSCE 在无需任何训练、权重更新或预先收集的概念特定数据（提示或图像）的情况下，大幅提升了负向提示对越狱提示的鲁棒性，同时对通用图像质量的影响很小。
| 主题： | 计算机视觉与模式识别 (cs.CV)；人工智能 (cs.AI)；机器学习 (cs.LG) |
| 引用为： | arXiv:2412.07658 [cs.CV] |
| （或此版本的 arXiv:2412.07658v3 [cs.CV]） | |
| https://doi.org/10.48550/arXiv.2412.07658 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Anubhav Jain [查看电子邮件]
[v1]
2024年12月10日星期二 16:45:03 UTC (12,986 KB)
[v2]
2025年3月17日星期一 15:37:35 UTC (29,569 KB)
[v3]
2026年10月16日星期五 01:09:41 UTC (24,530 KB)
来源：arXiv cs.AI · arxiv.org