跳到正文
热点事件持续更新

研究揭示在线策略蒸馏视觉后门传播风险

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Zane Fu 等作者发表论文称,在线策略蒸馏(OPD)并非天然抵抗视觉后门传播:低毒化率下后门几乎不出现,但一旦超过临界阈值,攻击成功率会迅速逼近 100%。 作者称,这种传播不依赖显式恶意回答,而由教师模型持续累积的异常概率质量驱动;他们据此设计出一种不注入显式触发器的触发方式。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv cs.AI
    研究揭示 On-Policy Distillation 中的视觉后门传播风险

    研究挑战了 On-Policy Distillation(OPD)天然抵抗后门传播的直觉,发现视觉后门在 OPD 中低毒化率下几乎不出现,但一旦超过临界阈值,攻击成功率会迅速逼近 100%。后门传播不依赖显式恶意回答,而由教师模型持续累积的异常概率质量驱动;作者据此提出一种零显式触发器注入的触发设计。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。