arXiv cs.AI· Thuy Dung Nguyen, Jingyi Guo, Rana Seda Dubauskas, Sreepriya Damuluru, Taylor T. Johnson, Kevin Leach·· 2 天前AI 评分36
INFUSE：面向智能体系统间接提示注入的统一表面基准
INFUSE: A Unified Surface Benchmark for Indirect Prompt Injection in Agentic Systems
AI 导读
研究者推出 INFUSE，一个覆盖长周期智能体工作流全生命周期的间接提示注入（IPI）端到端基准，包含 40 个真实任务和 56 种攻击场景（分属五类威胁）。
正文 · AI 翻译
摘要：基于 LLM 的智能体越来越多地执行长周期、端到端的工作流，涉及 shell 命令、代码修改、依赖安装以及与远程服务的交互。这种日益增长的自主性扩大了它们对间接提示注入（IPI）的暴露面，即嵌入在外部内容中的对抗性指令被解释为合法的任务指令。然而，现有评估往往聚焦于孤立的恶意字符串、单步工具调用或范围狭窄的智能体配置。我们提出 INFUSE，一个用于在整个长周期智能体工作流生命周期中评估 IPI 的端到端基准。INFUSE 包含 40 个真实任务和涵盖五个威胁类别的 56 个攻击场景的结构化分类体系。攻击通过任务执行过程中遇到的真实交互界面注入，使评估超越了仅置于初始提示或孤立工具交互中的攻击。我们评估了来自 GPT、Claude、Gemini、Llama、Gemma 和 Qwen 系列的 19 个 LLM，产生了 41,824 条对抗轨迹（其中 26,220 条无防御）和 720 次良性参考运行。在整个基准上，基于 LLM 评估的平均攻击成功率达到 19.6%，启发式验证下为 15.4%，各模型的 ASR-L 范围从 3.2% 到 41.9%。现有防护模型提供的保护有限，而提示层面的指令加固将平均攻击成功率从 58.2% 降至 14.3%，揭示了显著但依赖于模型的安全-效用权衡。我们的代码可在 此 https URL 获取。
| 学科： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.20776 [cs.CR] |
| （或 arXiv:2610.20776v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.20776 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Dung Nguyen [查看电子邮件]
[v1]
2026年10月14日星期三 18:26:15 UTC（602 KB）
来源：arXiv cs.AI · arxiv.org