arXiv cs.CL· Guangjing Wang, Ce Zhou, Yuanda Wang, Bocheng Chen, Hanqing Guo, Qiben Yan·· 11 小时前AI 评分31
跨越边界的可迁移攻击：AI 系统可迁移攻击综述
Beyond Boundaries: A Comprehensive Survey of Transferable Attacks on AI Systems
AI 导读
一篇综述提出覆盖跨实例、跨域、跨模态、跨模型、跨任务、跨部署六个维度的统一分类法，用于比较 evasion、投毒、后门、隐私推断、模型窃取与基于提示词的攻击之间的可迁移性。文章将梯度对齐、共享表征、训练持久性与部署不变性等迁移机制，与基于增强、解耦和优化的增强方法相连接，并指出迁移效果不稳定、指标不兼容以及模拟与物理评估之间的差距。
正文 · AI 翻译
摘要：可迁移攻击允许在一种环境中构建的对抗性操纵或学习到的攻击机制去攻陷其他 AI 系统，从而可能降低攻击成本并放大安全与隐私风险。然而，碎片化的术语和评估实践阻碍了人们对什么会迁移、为何会迁移以及迁移在何处失败的理解。本综述综合了代表性研究，并构建了一个涵盖六个互补维度的统一分类体系：跨实例、跨领域、跨模态、跨模型、跨任务和跨部署。通过将源-目标配置变化与攻击者访问和适应预算区分开来，该分类体系为比较规避、投毒、后门、隐私推断、模型窃取和基于提示的攻击中的迁移提供了一个通用框架。我们将迁移机制（包括梯度对齐、共享表示、训练持久性和部署不变性）与基于增强、解耦和优化的增强方法联系起来。我们的综合识别了不一致的迁移、不兼容的指标以及模拟评估与物理评估之间的差距，并确立了关于组合迁移、配置差异、时间持久性和可复现基准的研究议程。总之，这项工作支持对共享漏洞的系统性研究，并指导迁移感知的安全评估与防御。
| 主题： | 密码学与安全 (cs.CR)；人工智能 (cs.AI)；计算与语言 (cs.CL)；计算机视觉与模式识别 (cs.CV) |
| 引用为： | arXiv:2311.11796 [cs.CR] |
| （或本版本的 arXiv:2311.11796v3 [cs.CR]） | |
| https://doi.org/10.48550/arXiv.2311.11796 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Guangjing Wang [查看电子邮件]
[v1]
2023 年 11 月 20 日星期一 14:29:45 UTC（154 KB）
[v2]
2025 年 5 月 12 日星期一 11:25:11 UTC（260 KB）
[v3]
2026 年 10 月 14 日星期三 18:38:03 UTC（172 KB）
来源：arXiv cs.CL · arxiv.org