arXiv cs.AI· Paul K. Mandal, Pavan Reddy, Tristan Malaty\'nski·· 4 小时前AI 评分40
统计对抗样本:干净视觉数据集中天然存在的类后门对抗特征
Statistical Adversaries: Natural Backdoor-like Adversarial Features in Clean Vision Datasets
AI 导读
研究者提出“统计对抗样本”概念,指视觉数据中天然存在、无需恶意植入即可像后门触发器一样起作用的统计信号。他们分析 ImageNet 找出与特定标签强关联的模式,用统计控制剔除随机相关性后,证明这些信号能直接且可预测地改变模型预测,且比一般数据损坏更具针对性,并能跨模型架构迁移。这表明普通数据集即使未被投毒也可能含有可利用的对抗面,数据集审计应将虚假结构视为视觉模型的潜在攻击面。
正文 · AI 翻译
摘要:针对特定模型的对抗攻击已被广泛研究。我们研究的是另一种失效模式:视觉数据中自然出现的统计信号,它们可以在未被恶意插入的情况下表现得像后门触发器。我们称这些信号为统计对抗样本。我们分析 ImageNet 以寻找与某些标签强相关的模式。然后我们使用统计控制方法从候选信号中去除随机相关性。最后,我们证明这些信号能够直接且可预测地改变模型预测。这些统计对抗样本比一般性损坏更具针对性,并且能够跨不同模型架构迁移。这表明某些脆弱性是由数据集结构和分布驱动的,而非单个模型的特性。我们得出结论:即使没有投毒,普通数据集也可能包含可利用的对抗表面,并建议数据集审计不仅应将虚假结构视为偏差或可解释性失败的来源,还应将其视为视觉模型的潜在攻击面。
| 评论: | 作者元数据更正(Malatynski -> Malatyński)。论文与前一版本(v1)相比无变化 |
| 主题: | 计算机视觉与模式识别(cs.CV);人工智能(cs.AI);密码学与安全(cs.CR);机器学习(cs.LG) |
| MSC 分类号: | 68T07, 68T45, 62H30, 62H35 |
| ACM 分类号: | I.2.6; I.2.10; I.4.8; I.5.2; I.5.4; G.3 |
| 引用为: | arXiv:2607.05516 [cs.CV] |
| (或本版本使用 arXiv:2607.05516v3 [cs.CV]) | |
| https://doi.org/10.48550/arXiv.2607.05516 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Paul K. Mandal [查看邮箱]
[v1]
2026年7月6日星期一 18:00:25 UTC(3,092 KB)
[v2]
2026年8月17日星期一 12:49:25 UTC(4,381 KB)
[v3]
2026年11月17日星期二 12:23:52 UTC(4,381 KB)
来源:arXiv cs.AI · arxiv.org