arXiv cs.AI· Xinran Zheng, Xin Fan Guo, Zhiqiang Hao, Fan Yang, Xingzhi Qian, Jiawei Du, Jinfeng Xu, Zheng Xing, Shuo Yang, Xingjun Wang·· 10 天前AI 评分42
APEX：面向 LLM 智能体的执行边界主动防护
APEX: Active Protection at Execution Boundaries for LLM Agents
AI 导读
APEX 是一种针对 LLM 智能体间接提示注入的主动防御方案，将防护点从攻击模式识别转移到执行边界，通过执行前编译的单一授权契约同时实施证据门控预防与欺骗式暴露。在 13 个基线对比中，APEX 在六个基准中的五个实现 0% 攻击成功率，第六个为 0.56%，并在三类能力单元的自适应攻击下均保持 0%。代码已开源。
正文 · AI 翻译
摘要：间接提示注入（IPI）将对抗性指令隐藏在大型语言模型（LLM）智能体运行时读取的内容中。随着智能体组合异构能力单元，包括工具、MCP 服务器和技能，注入的载体成倍增加，而为识别攻击模式而构建的防御措施则落后于它们。我们转而将防御从覆盖攻击模式转移到一个稳定的点：无论载体是什么、注入如何传播，危害只在\emph{执行边界}处显现，即智能体将内部状态转化为外部动作或释放输出的地方。此处的安全性取决于两个条件，二者均由可信任务而非运行过程决定：所提议的效果是否被授权，以及到达该处的运行时信息是否被该任务认可。我们提出 APEX，一种主动防御，在此边界处从在不可信执行之前编译的单一授权契约来强制执行这两点：\emph{证据门控预防}仅在契约证明其合理时才允许效果，而\emph{基于欺骗的暴露}使未经认可的使用在效果提交之前自我暴露。因此，保护源于任务允许什么，而非攻击如何构建，并且统一适用于各能力单元，无需针对特定攻击的策略或污点跟踪。在 13 个基线中，APEX 在六个基准中的五个上实现 0\% 攻击成功率，在第六个上为 0.56\%，在所有三种能力单元类型的自适应攻击下保持 0\%，并且在不同的防御者主干上仍然有效。代码可在 此 https URL 获取。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.06966 [cs.CR] |
| （或 arXiv:2610.06966v2 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.06966 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Xinran Zheng [查看电子邮件]
[v1]
2026 年 10 月 3 日星期六 17:53:29 UTC（3,191 KB）
[v2]
2026 年 10 月 7 日星期三 16:27:47 UTC（3,191 KB）
来源：arXiv cs.AI · arxiv.org