arXiv cs.AI· Qilin Zhou, Zhengyuan Wei, Haipeng Wang, Zhuo Wang, Shuo Liu, W. K. Chan·· 9 天前AI 评分22
MRCert：面向对抗补丁样本的部署后补丁鲁棒性认证
MRCert: Towards Post-deployment Patch Robustness Certification for Adversarially Patched Samples via Type-specific Masking
AI 导读
研究者提出 MRCert，首个基于掩码的认证式恢复防御方法，可同时保持高预测准确率并验证对抗补丁样本返回标签的良性。它针对良性样本与对抗补丁样本分别推断类型特定的模型必要属性，并通过类型导向的标签恢复与认证函数对进行形式化验证。在 ImageNet、16 像素补丁下，MRCert 取得 35.1% 对抗认证准确率，而 SOTA 方法 PatchCURE 完全失效。
正文 · AI 翻译
摘要：在部署后阶段，深度学习模型的输入可能被对抗性补丁修改，也可能没有。在此类输入上，在补丁范围内进行补丁鲁棒性认证可以验证其标签的良性，并且应保持高预测准确率。然而，现有的基于平滑和基于掩码的恢复防御器无法同时实现这两点：它们分别会大幅降低预测准确率，以及无法验证对抗性补丁输入所返回标签的良性。我们提出 MRCert，这是首个基于掩码的认证恢复防御器，展示了同时实现两者的可行性。与所有现有工作对两类输入（良性样本和对抗性补丁样本）应用共同条件进行认证不同，MRCert 在部署后阶段推断深度学习模型针对两类输入的特定类型必要属性，并通过一种新颖的面向类型的标签恢复与认证函数对设计，将它们形式化关联以验证标签良性。在不引入平滑所导致的干净准确率下降的情况下，实验结果证实，MRCert 在补丁大小为 16 像素的 ImageNet 上实现了 35.1\% 的对抗认证准确率，而 SOTA 的 PatchCURE 则完全失败。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；机器学习（cs.LG）；软件工程（cs.SE） |
| 引用为： | arXiv:2610.10617 [cs.CR] |
| （或 arXiv:2610.10617v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.10617 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Qilin Zhou [查看电子邮件]
[v1]
2026年10月7日星期三 07:27:16 UTC（289 KB）
来源：arXiv cs.AI · arxiv.org