跳到正文
热点事件持续更新

BadEvolve:20个投毒任务可给自进化Agent植入后门

1 篇报道1 个报道来源20 小时前更新

先了解这件事

AI 综述

宾州州立大学等机构提出 BadEvolve 攻击框架:只向自进化 LLM Agent 的学习集注入 20 个投毒任务,并用 LLM 优化器调整措辞,就能诱导 Agent 把后门规则写进自身技能。 在 Kimi-K2.5 上跨 4 个框架、3 个 benchmark 的测试中,攻击者指定 payload 的注入成功率达 79.6%,最佳基线为 37.6%;同时干净任务准确率仅下降 1.1 点,后门难以察觉。

AI 根据报道生成 · 19 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. RadarAI
    宾州州立大学论文提出 BadEvolve:20 个投毒任务可让自进化 LLM Agent 在自身技能中植入后门

    宾州州立大学等机构提出 BadEvolve 攻击框架,仅向自进化 Agent 的学习集注入 20 个投毒任务,并用 LLM 优化器调整措辞,即可诱导其把后门规则写进自身技能。在 Kimi-K2.5 上跨 4 个框架、3 个 benchmark 的测试中,攻击者指定 payload 的注入成功率达 79.6%,最佳基线为 37.6%,而干净任务准确率仅下降 1.1 点,后门难以察觉。

本事件热度走势

可比范围当前
6
可比范围峰值
911月17日 12:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。