arXiv cs.CL· Farhan Zarif, Kazi Shahid Ahmed Galib, Synthia Akter Promi, Shabnam Sharmin Tarin, Ariyan Hossain, Sadif Ahmed, Farig Yousuf Sadeque·· 11 小时前AI 评分47
研究揭示小型工具智能体的低提示注入成功率假象：多数攻击被忽略而非被拒绝
Ignored, Not Refused: What Low Prompt-Injection Success Rates Hide in Small Tool-Using Agents
AI 导读
对11个开源工具智能体（2-14B 参数）在 InjecAgent 和 AgentDojo 上的 33,000 条轨迹审计发现，多数失败攻击是被忽略（76-80%）而非被拒绝（17-18%）。
正文 · AI 翻译
摘要：使用工具的智能体会读取不受信任的外部内容，这使其面临间接提示注入（IPI）的风险，即隐藏的指令会劫持智能体的工具调用。基准测试通过攻击成功率（ASR）来衡量 IPI 安全性，该指标将每一次失败的攻击都视为一次成功的防御。为检验这一假设，我们审计了十一个开放权重智能体（2-14B 参数）在 InjecAgent 和 AgentDojo 上的 33,000 条轨迹。一个标签盲的 LLM 评判器显示，大多数失败的攻击是被忽略（76-80%），而非被拒绝（17-18%）。在模型权重完全相同的情况下，仅更改系统提示词就会使 InjecAgent 的 ASR 从 0.2% 变为 43%。我们的攻击-任务结果矩阵（ATOM）进一步表明，在 21.7% 的 AgentDojo 回合中，智能体保持了安全，但未完成用户的任务。因此，较低的 ASR 主要反映的是智能体在默默忽略注入，而非拒绝它们。评估应在报告 ASR 的同时，报告攻击是如何失败的以及用户任务是否完成。我们发布了带标签的语料库、评判器提示词和分析代码。
| 评论： | 17 页，3 幅图，11 张表 |
| 主题： | 计算与语言（cs.CL）；密码学与安全（cs.CR） |
| 引用为： | arXiv:2610.23254 [cs.CL] |
| （或 arXiv:2610.23254v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.23254 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Kazi Shahid Ahmed Galib [查看电子邮件]
[v1]
2026 年 10 月 16 日星期五 10:26:23 UTC（175 KB）
来源：arXiv cs.CL · arxiv.org