arXiv cs.CL· Jiaming Zhang, Fuyao Zhang, Pengjun Xie, Wei Yang Bryan Lim·· 12 小时前AI 评分38
研究揭示自然干扰器：非鲁棒特征如何主动误导标准模型
Natural Jammers: When Non-Robust Features Become Antagonistic
AI 导读
研究发现深度神经网络依赖的非鲁棒特征并非只是机会性捷径，而会充当“自然干扰器”，在干净未修改图像上主动误导标准模型。团队通过标准模型与鲁棒模型的分歧识别出 Jammed Set，并给出“频谱-空间锁定”的因果证据：仅当高频分量与特定空间结构精确对齐时才产生干扰。研究还揭示“替换悖论”：单个干扰器对几何变换脆弱，但干扰的总体普遍性在变换下近似稳定，只是被重新分配而非消除。
正文 · AI 翻译
摘要：已知深度神经网络依赖与人类感知契合度较差的非鲁棒特征。此前的工作大多将这些特征描述为帮助标准模型处理干净数据的机会主义捷径。我们则表明，非鲁棒线索可能具有对抗性：它们可以充当自然干扰器，在干净、未经修改的图像上主动误导标准模型。以标准模型与鲁棒模型之间的分歧作为分析视角，我们识别出一个“受干扰集”，在该集合上鲁棒模型优于标准模型。我们为谱-空间锁定提供了因果证据：只有当高频分量与特定空间结构精确对齐时，干扰才会出现。通过谱滤波或小幅几何位移打破这种锁定，可以恢复正确的预测。至关重要的是，我们发现了一个替代悖论：虽然单个干扰器对几何位移很脆弱，但干扰的总体普遍程度大致保持稳定，并且在此类变换下是被重新分配而非被消除。我们的结果将自然非鲁棒性重新界定为经验模型-数据几何上的失效场：它在小幅变换下会重新分配而非消失。
| 评论： | NeurIPS 2026 Spotlight |
| 主题： | 计算机视觉与模式识别（cs.CV）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.34785 [cs.CV] |
| （或 arXiv:2610.34785v1 [cs.CV] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.34785 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Fuyao Zhang [查看邮箱]
[v1]
2026年10月26日星期一 03:29:27 UTC（552 KB）
来源：arXiv cs.CL · arxiv.org