arXiv cs.AI· Yutong Zhi, Jie Zhang, Xiuqi Lu, Jiayuan Xu, Jing Shao·· 3 天前AI 评分44
TRAP：针对 LLM 智能体工具结果错误绑定问题的工具结果重放攻击
TRAP: Tool-result Replay Attack for Probing Misbinding in LLM Agents
AI 导读
研究者提出 TRAP 工具结果重放攻击，并构建 ReplayBench 基准，用受控重放评估 LLM 智能体的工具结果错误绑定（misbinding）问题，覆盖 19 个智能体场景、4 类失败属性和 3 种重放机制。
正文 · AI 翻译
摘要：随着 AI 智能体越来越多地通过外部工具行动，工具结果不再是简单的输出，而是必须与产生它们的上下文保持正确关联的执行产物。然而，当结果在缓存、恢复机制和共享运行时状态之间持久化时，这种关联可能会断裂，导致真实且未被修改的结果在不兼容的执行上下文中被使用，并引导智能体采取不安全的行动。我们将这种失败称为工具结果错误绑定。为了系统地研究这种失败，我们引入了 ReplayBench，这是一个使用受控工具结果重放来评估错误绑定的基准，涵盖 19 个代表性智能体场景、4 种失败属性和 3 种重放机制。在八个 LLM、三个智能体框架和多样化的有状态工作流中，我们发现了广泛存在的重放引发的失败，在跨任务重放下平均最终状态错误率为 0.649。分阶段分析将这些失败定位到模型侧的动作生成。进一步的分析表明，重放易感性随任务相似度而变化，对对象相似度几乎没有依赖，并且在结果陈旧和隐式环境变化下仍然很高。这些发现推动了运行时有效性机制，在我们评估的设置中消除了最终状态错误，同时保留了合法的恢复。结果呼吁在工具使用型智能体运行时中实现显式的上下文绑定。我们的工作公开于 this https URL。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.16333 [cs.AI] |
| （或 arXiv:2610.16333v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.16333 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Yutong Zhi [查看邮箱]
[v1]
2026年10月12日星期一 07:51:02 UTC（1,468 KB）
来源：arXiv cs.AI · arxiv.org