跳到正文
热点事件持续更新

研究:干净视觉数据集天然含类后门对抗特征

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Paul K. Mandal 等作者发表研究,提出“统计对抗样本”概念:视觉数据中天然存在、无需恶意植入即可像后门触发器一样起作用的统计信号。 他们分析 ImageNet,找出与特定标签强关联的模式,用统计控制剔除随机相关性后,称这些信号能直接且可预测地改变模型预测,比一般数据损坏更具针对性,并能跨模型架构迁移。 研究据此认为,普通数据集即使未被投毒也可能含有可利用的对抗面,数据集审计应将虚假结构视为视觉模型的潜在攻击面。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv cs.AI
    统计对抗样本:干净视觉数据集中天然存在的类后门对抗特征

    研究者提出“统计对抗样本”概念,指视觉数据中天然存在、无需恶意植入即可像后门触发器一样起作用的统计信号。他们分析 ImageNet 找出与特定标签强关联的模式,用统计控制剔除随机相关性后,证明这些信号能直接且可预测地改变模型预测,且比一般数据损坏更具针对性,并能跨模型架构迁移。这表明普通数据集即使未被投毒也可能含有可利用的对抗面,数据集审计应将虚假结构视为视觉模型的潜在攻击面。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。