arXiv cs.AI· Zimo Xu, Wenzhuo Liu, Hideki Nakayama·· 1 天前AI 评分52
CapLite：面向小语言模型智能体的提示词注入防御
CapLite: Prompt-Injection Defense for Small Language Model Agents without Model-Written Security Artifacts
AI 导读
研究团队提出 CapLite，一种不依赖模型自行编写安全产物的提示词注入防御方法，从工具 schema 推导策略，并在读取任何工具结果前提交写调用。
正文 · AI 翻译
摘要：针对提示注入的强制执行防御，如 CaMeL、Progent、IPIGuard 和 DRIFT，要求智能体自身的模型编写安全工件（程序、权限策略、依赖图或约束列表），再由代码强制执行。我们考察小型语言模型（SLM）智能体能否被信任来编写这些工件。在 15 个开放权重模型中，其中 13 个参数量在 1.7B 到 12B 之间，答案是否定的：智能体模型编写的策略、图和约束导致 14 个（Progent）、13 个（IPIGuard）和 11 个（DRIFT）模型遭受攻击，而 CaMeL 的程序在多达 68% 的回合中无法运行。我们提出 CapLite，它从工具模式中推导策略，在读取任何工具结果之前提交写调用，并且仅当决定写入影响对象或影响范围的每个参数都在用户请求中明确说明时才允许写入。这保证了写入完整性：注入的文本无法添加写入，且没有任何写入会到达用户未指定的接收者、金额、对象或目的地。在 13,935 个受攻击的 AgentDojo 回合中，没有任何攻击成功。CapLite 在攻击下的效用与 CaMeL 相当（29.0% 对 27.2%），且 token 用量少于所有其他强制执行防御和未防御的智能体：每回合 17.1k，为 CaMeL 的 18%，并且在所有强制执行防御中具有最高的每 token 效用。
| 评论： | 19 页，11 张图，9 张表 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；密码学与安全（cs.CR） |
| 引用为： | arXiv:2611.17115 [cs.AI] |
| （或 arXiv:2611.17115v1 [cs.AI] 为此版本） | |
| https://doi.org/10.48550/arXiv.2611.17115 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Zimo Xu [查看邮箱]
[v1]
2026 年 11 月 12 日星期四 17:07:22 UTC（1,823 KB）
来源：arXiv cs.AI · arxiv.org