跳到正文
热点事件持续更新

ToolFlood:用语义覆盖把良性工具挤出LLM智能体检索结果

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Hussein Jawad 与 Nicolas J-B Brunel 提出名为 ToolFlood 的检索层攻击:向工具库注入少量攻击者控制的工具,利用嵌入空间几何特性让这些工具覆盖大量用户查询、占据 top-k 检索结果,从而把所有良性工具挤出 LLM 智能体的上下文。 该方法采用两阶段对抗工具生成策略。作者称,在 ToolBench 大规模工具库上,以约 1% 的注入率实现最高 95% 的攻击成功率。论文已被 EACL 2027 主会接收,代码已公开。

AI 根据报道生成 · 5 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv cs.CL
    ToolFlood:通过语义覆盖将有效工具从 LLM 智能体检索结果中隐藏

    ToolFlood 是一种针对工具增强型 LLM 智能体的检索层攻击,通过注入少量攻击者控制的工具,利用嵌入空间几何特性让这些工具覆盖大量用户查询、占据 top-k 结果,从而把所有良性工具挤出智能体上下文。该方法采用两阶段对抗工具生成策略,在 ToolBench 大规模工具库上以约 1% 的注入率实现最高 95% 的攻击成功率。论文已被 EACL 2027 主会接收,代码已公开。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。