跳到正文
arXiv cs.AI· Wenbo Jiang, Hongwei Li, Jiaming He, Rui Zhang, Guowen Xu, Tianwei Zhang, Rongxing Lu·· 10 小时前AI 评分31

I2I Backdoor:针对图像到图像任务的后门攻击

I2I Backdoor: Backdoor Attacks against Image-to-Image Tasks

AI 导读

研究者首次系统性地揭示了图像到图像(I2I)网络的后门攻击漏洞,提出 I2I Backdoor 攻击方法:被植入后门的 I2I 网络在干净输入上表现正常,一旦输入图像出现后门触发器,便输出特定的不当图像。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:随着深度学习技术的快速发展,基于深度学习的图像到图像(I2I)网络已成为图像超分辨率和去噪等 I2I 任务的主流选择。尽管这些网络性能卓越,但 I2I 网络的安全性尚未得到充分研究。虽然已有一些研究探讨了其对对抗攻击的脆弱性,但尚无研究探索针对 I2I 网络的后门攻击,而这是一种更隐蔽、更严重的威胁。在本工作中,我们首次全面研究了 I2I 网络对后门攻击的脆弱性。我们提出了一种针对 I2I 任务的后门攻击,其中被植入后门的 I2I 网络在干净输入图像上表现正常,但当输入图像中出现后门触发器时,会输出特定的不当图像。为实现这种 I2I 后门攻击,我们为 I2I 网络设计了一种通用对抗扰动(UAP)生成算法,生成的 UAP 被用作 I2I 后门的触发器。此外,在后门训练过程中采用了带有动态加权方法的多任务学习(MTL)以取得更好的效果。我们将关注点扩展到 I2I 任务之外,将 I2I 后门延伸至攻击下游任务,包括图像分类和目标检测。具体而言,经被植入后门的图像去噪网络处理后的后门触发图像能够欺骗下游图像分类器和目标检测器。大量实验证明了 I2I 后门在最先进的 I2I 网络架构上的有效性,以及对不同后门防御的鲁棒性。
评论: 已被 IEEE Transactions on Dependable and Secure Computing (TDSC) 接收发表
主题: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI);密码学与安全(cs.CR)
引用为: arXiv:2407.10445 [cs.CV]
  (或 arXiv:2407.10445v2 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2407.10445

由 DataCite 颁发的 arXiv DOI

期刊 参考: IEEE Trans. Dependable Secure Comput. 22(6) (2025) 7996-8010
相关 DOI: https://doi.org/10.1109/TDSC.2025.3603639

链接到相关资源的 DOI

提交历史

来自:Wenbo Jiang [查看邮箱]
[v1] 2024年7月15日星期一 05:14:17 UTC(3,898 KB)
[v2] 2026年11月18日星期三 05:20:45 UTC(3,673 KB)

来源:arXiv cs.AI · arxiv.org