arXiv cs.AI· Ali Javeri, Javad Hezareh, Radin Shahdaei, AmirMahdi Sadeghzadeh·· 3 天前AI 评分22
Gradient Confusion Defense（GCD）：用梯度混淆抵御黑盒分数查询攻击
Mitigating Black-Box Score-Based Query Attacks via Gradient Confusion
AI 导读
研究者提出 Gradient Confusion Defense（GCD），一种无需重训练、确定性的测试时封装方法，通过求解基于模型 Jacobian 的约束优化问题，将暴露的 logit 梯度对齐到与真实对抗损失梯度最大程度错位的混淆方向，从而提升攻击的查询复杂度。
正文 · AI 翻译
摘要：基于分数的黑盒对抗攻击通过利用重复的模型查询来构造对抗样本，对已部署的机器学习系统构成严重威胁，且无需访问模型参数或架构。现有防御主要依赖随机输出扰动，无法阻止坚定的攻击者通过增加查询预算或对随机性取平均来恢复稳定的梯度估计。在这项工作中，我们提出了梯度混淆防御（GCD），这是一种无需重新训练的确定性测试时包装器，可主动塑造返回给查询攻击者的概率向量。通过求解一个基于模型雅可比矩阵的约束优化问题，GCD 将暴露的 logit 梯度与一个目标混淆方向对齐，该方向与真实对抗损失梯度最大程度地错位——在不牺牲预测效用或 top-1 准确率的情况下增加攻击的查询复杂度。我们提供了严格的理论分析，证明 GCD 可证明地减缓基于梯度估计的攻击，并在基于随机搜索的攻击中引发系统性的接受/拒绝错误，且随着受防御查询比例的增加，混淆效果会放大。在 CIFAR-10 和 ImageNet 上跨多种架构（ResNet-18、ResNet-50、ViT-B/16）以及四种最先进攻击的大量实验证实了这些预测：GCD 实现了最先进的鲁棒性，同时带来零干净准确率下降。%至关重要的是，与基于随机化的防御不同，GCD 的确定性结构提供了对利用随机性的自适应攻击的抵御能力，使其非常适合安全关键型部署场景。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI）；密码学与安全（cs.CR） |
| 引用为： | arXiv:2610.17382 [cs.LG] |
| （或 arXiv:2610.17382v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.17382 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：AmirMahdi Sadeghzadeh [查看电子邮件]
[v1]
2026年10月12日星期一 20:40:14 UTC（105 KB）
来源：arXiv cs.AI · arxiv.org