研究者提出利用基准激励的后门投毒攻击BenchDoor
热点事件持续更新
研究者提出利用基准激励的后门投毒攻击BenchDoor
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Yixin Wu等研究者提出名为BenchDoor的数据投毒攻击方法，利用基准测试分数驱动数据集采用的激励机制，在保持模型良性性能的同时植入后门。 在Qwen和Gemma模型的多选题问答、文本分类与开放式问答任务中，30个评测配置全部实现基准分数正增益；2%至10%投毒率下，留出集攻击成功率达82.33%至100.00%。研究者称，经合成数据生成与基于相似度的去污染处理后，攻击成功率仍不低于90.33%。
AI 根据报道生成 · 55 分钟前更新
最新进展10月21日 12:00
BenchDoor：利用基准测试激励实施后门攻击的对抗性基准方法报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- arXiv cs.AIBenchDoor：利用基准测试激励实施后门攻击的对抗性基准方法
研究者提出 BenchDoor 系列数据投毒攻击，利用基准测试分数驱动数据集采用的激励机制，在保持良性性能的同时植入后门。在 Qwen 和 Gemma 模型的多选题问答、文本分类与开放式问答任务中，30 个评测配置全部实现基准分数正增益，2% 至 10% 投毒率下留出集攻击成功率达 82.33% 至 100.00%。经合成数据生成与基于相似度的去污染处理后，攻击成功率仍不低于 90.33%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。