研究揭示在线策略蒸馏视觉后门传播风险
热点事件持续更新
研究揭示在线策略蒸馏视觉后门传播风险
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Zane Fu 等作者发表论文称,在线策略蒸馏(OPD)并非天然抵抗视觉后门传播:低毒化率下后门几乎不出现,但一旦超过临界阈值,攻击成功率会迅速逼近 100%。 作者称,这种传播不依赖显式恶意回答,而由教师模型持续累积的异常概率质量驱动;他们据此设计出一种不注入显式触发器的触发方式。
AI 根据报道生成 · 1 小时前更新
最新进展11月18日 13:00
研究揭示 On-Policy Distillation 中的视觉后门传播风险报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv cs.AI研究揭示 On-Policy Distillation 中的视觉后门传播风险
研究挑战了 On-Policy Distillation(OPD)天然抵抗后门传播的直觉,发现视觉后门在 OPD 中低毒化率下几乎不出现,但一旦超过临界阈值,攻击成功率会迅速逼近 100%。后门传播不依赖显式恶意回答,而由教师模型持续累积的异常概率质量驱动;作者据此提出一种零显式触发器注入的触发设计。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。