arXiv cs.AI· Rui Zhang, Xinle Cao, Huazhen Yu, Jian Liu, Youwen Zhu·· 3 天前AI 评分23
基于 Lipschitz-Margin 分析与认证的预训练分类器对抗检测
Adversarial Detection for Pre-trained Classifiers via Lipschitz-Margin Analysis with Certification
AI 导读
研究者提出一种面向预训练分类器的对抗样本检测方法，通过证明从认证 ℓ2 鲁棒性到认证检测的 Lipschitz-margin 归约，将问题简化为处理单一 Lipschitz 常数 L，并引入 D_Adv 与 D_lc 两个检测器家族，无需重训练即可部署于任意预训练分类器。
正文 · AI 翻译
摘要：部署在自动驾驶感知等安全关键服务中的深度分类器仍然容易受到微小对抗扰动的影响。当前的认证 $\ell_2$ 防御面临代价高昂的权衡：随机平滑（RS）需要对每个输入进行数百次带噪查询，而 Lipschitz 网络（LN）则约束了架构并牺牲了干净准确率。我们转而采用面向检测的方法：与其认证预测在 $\ell_2$ 球内保持不变，我们认证 $\ell_2$ 球内的对抗输入被 \emph{检测到}——这一保证与安全关键部署相契合，因为漏检攻击的代价高于将干净输入标记为异常。
为实现这一点，我们证明了从认证 $\ell_2$ 鲁棒性到认证检测的 Lipschitz 边界归约，从而将问题简化为处理单个 Lipschitz 常数 $L$。我们引入两个检测器族：$\mathbb{D}_{Adv}$，它从单个防御方扰动对估计 $L$；以及 $\mathbb{D}_{lc}$，它用局部边界质心增强该对，使估计值保持在证书所需之上。两者均可部署于任何预训练分类器而无需重新训练。在有效的全局界下，检测器在该半径处完全认证；在局部估计 $L'$ 下，认证是逐样本的，仅在我们的认证条件成立时适用。
在 MNIST、CIFAR-10 和 ImageNet-1k 上，针对四种骨干网络（LeNet-5、VGG16、ResNet-50、ViT-B/16），我们的检测器匹配或优于五个基线（CTT、SortNet、CRM、ContraNet、A$^2$D）。对于使用 1-Lipschitz SortNet 的 CIFAR-10，我们的归约在所比较的认证检测器中以最低 FPR 实现了 $100\%$ 认证检测；在标准 CIFAR-10 VGG16 上，我们的检测器拒绝了所有评估的预算内对抗样本，其中 62-82\% 既被拒绝又被形式化认证。
| 评论： | 21 页，17 张表，被 NDSS 2027 接收 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.15359 [cs.LG] |
| （或 arXiv:2610.15359v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.15359 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Rui Zhang [查看电子邮件]
[v1]
2026 年 10 月 11 日星期日 05:33:29 UTC（1,646 KB）
来源：arXiv cs.AI · arxiv.org