研究:干净视觉数据集天然含类后门对抗特征
热点事件持续更新
研究:干净视觉数据集天然含类后门对抗特征
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Paul K. Mandal 等作者发表研究,提出“统计对抗样本”概念:视觉数据中天然存在、无需恶意植入即可像后门触发器一样起作用的统计信号。 他们分析 ImageNet,找出与特定标签强关联的模式,用统计控制剔除随机相关性后,称这些信号能直接且可预测地改变模型预测,比一般数据损坏更具针对性,并能跨模型架构迁移。 研究据此认为,普通数据集即使未被投毒也可能含有可利用的对抗面,数据集审计应将虚假结构视为视觉模型的潜在攻击面。
AI 根据报道生成 · 1 小时前更新
最新进展11月18日 13:00
统计对抗样本:干净视觉数据集中天然存在的类后门对抗特征报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv cs.AI统计对抗样本:干净视觉数据集中天然存在的类后门对抗特征
研究者提出“统计对抗样本”概念,指视觉数据中天然存在、无需恶意植入即可像后门触发器一样起作用的统计信号。他们分析 ImageNet 找出与特定标签强关联的模式,用统计控制剔除随机相关性后,证明这些信号能直接且可预测地改变模型预测,且比一般数据损坏更具针对性,并能跨模型架构迁移。这表明普通数据集即使未被投毒也可能含有可利用的对抗面,数据集审计应将虚假结构视为视觉模型的潜在攻击面。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。