arXiv cs.AI· Shuo Hong, Jiaxin Ma, Xidi Cai, Qianli Ma·· 10 小时前AI 评分42
ERASE：用在线自蒸馏擦除注入区域，防御多模态提示注入
Erase the Injected Region: Multimodal Prompt-Injection Defense with On-Policy Self-Distillation
AI 导读
ERASE 是一种在线自蒸馏方法，通过在原始媒体中就地擦除注入区域、以模态适配的空白内容替换，让读取受攻击媒体的学生模型向读取擦除视图的冻结基座模型学习。在图像、音频、视频和两种模型规模上，ERASE 在评测基准上观察到接近零的攻击成功率，任务效用接近无防御的干净输入水平。
正文 · AI 翻译
摘要：多模态间接提示注入将恶意指令嵌入外部媒体中，而这些媒体同时包含用户任务所需的信息。现有防御手段虽能阻止攻击，却会损害模型对该信息的使用，导致攻击防御与任务保持之间存在差距。我们提出 ERASE，一种在线策略自蒸馏方法，它通过就地擦除注入区域来构建参考。与模态相适配的空白内容替换注入内容，同时保留周围媒体。读取受攻击媒体的学生模型，从读取擦除视图的冻结基础模型处，通过对其自身 rollout 的全分布 token 级反馈进行学习。在两种模型规模的图像、音频和视频上，ERASE 在所评估基准上记录的观测攻击成功率接近零，同时任务效用保持在接近未防御干净输入的水平。在 3B 音频上，ERASE 达到 60.1% 的受攻击输入准确率，而 ARGUS 为 33.1%，与未防御干净输入水平相差 0.5 个百分点以内。实验表明，ERASE 在 3B 音频上将注入依赖度从 6.26 降至 0.0095，同时在擦除输入上保持接近基础模型。域外准确率也保持在基础水平附近。我们的代码将在论文被接收后公开。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.41307 [cs.CR] |
| （或本版本的 arXiv:2610.41307v1 [cs.CR]） | |
| https://doi.org/10.48550/arXiv.2610.41307 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Shuo Hong [查看邮箱]
[v1]
2026年10月30日星期五 06:15:10 UTC（2,650 KB）
来源：arXiv cs.AI · arxiv.org