BadEvolve:20个投毒任务可给自进化Agent植入后门
热点事件持续更新
BadEvolve:20个投毒任务可给自进化Agent植入后门
1 篇报道1 个报道来源20 小时前更新
先了解这件事
AI 综述
宾州州立大学等机构提出 BadEvolve 攻击框架:只向自进化 LLM Agent 的学习集注入 20 个投毒任务,并用 LLM 优化器调整措辞,就能诱导 Agent 把后门规则写进自身技能。 在 Kimi-K2.5 上跨 4 个框架、3 个 benchmark 的测试中,攻击者指定 payload 的注入成功率达 79.6%,最佳基线为 37.6%;同时干净任务准确率仅下降 1.1 点,后门难以察觉。
AI 根据报道生成 · 19 小时前更新
最新进展11月17日 09:58
宾州州立大学论文提出 BadEvolve:20 个投毒任务可让自进化 LLM Agent 在自身技能中植入后门报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- RadarAI宾州州立大学论文提出 BadEvolve:20 个投毒任务可让自进化 LLM Agent 在自身技能中植入后门
宾州州立大学等机构提出 BadEvolve 攻击框架,仅向自进化 Agent 的学习集注入 20 个投毒任务,并用 LLM 优化器调整措辞,即可诱导其把后门规则写进自身技能。在 Kimi-K2.5 上跨 4 个框架、3 个 benchmark 的测试中,攻击者指定 payload 的注入成功率达 79.6%,最佳基线为 37.6%,而干净任务准确率仅下降 1.1 点,后门难以察觉。
本事件热度走势
- 可比范围当前
- 6
- 可比范围峰值
- 911月17日 12:00
- 近 24 小时变化
- –
02.557.510
12:0015:0018:0021:0011月18日03:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。