ToolFlood:用语义覆盖把良性工具挤出LLM智能体检索结果
热点事件持续更新
ToolFlood:用语义覆盖把良性工具挤出LLM智能体检索结果
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Hussein Jawad 与 Nicolas J-B Brunel 提出名为 ToolFlood 的检索层攻击:向工具库注入少量攻击者控制的工具,利用嵌入空间几何特性让这些工具覆盖大量用户查询、占据 top-k 检索结果,从而把所有良性工具挤出 LLM 智能体的上下文。 该方法采用两阶段对抗工具生成策略。作者称,在 ToolBench 大规模工具库上,以约 1% 的注入率实现最高 95% 的攻击成功率。论文已被 EACL 2027 主会接收,代码已公开。
AI 根据报道生成 · 5 分钟前更新
最新进展11月18日 13:00
ToolFlood:通过语义覆盖将有效工具从 LLM 智能体检索结果中隐藏报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv cs.CLToolFlood:通过语义覆盖将有效工具从 LLM 智能体检索结果中隐藏
ToolFlood 是一种针对工具增强型 LLM 智能体的检索层攻击,通过注入少量攻击者控制的工具,利用嵌入空间几何特性让这些工具覆盖大量用户查询、占据 top-k 结果,从而把所有良性工具挤出智能体上下文。该方法采用两阶段对抗工具生成策略,在 ToolBench 大规模工具库上以约 1% 的注入率实现最高 95% 的攻击成功率。论文已被 EACL 2027 主会接收,代码已公开。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。