arXiv cs.CL· Ziyi Yang, Adel Bibi, Guohao Li, Bernard Ghanem, Carlos Hinojosa·· 6 天前AI 评分44
APEX-Harm：评估共享专业工作空间中的智能体安全性
APEX-Harm: Evaluating Agent Safety in Shared Professional Workspaces
AI 导读
研究者推出 APEX-Harm 基准，用于评估长时程智能体在包含 115 至 328 个文件的大型工作空间中执行金融、咨询和法律任务时，面对提示词与脚本注入攻击的安全性。
正文 · AI 翻译
摘要：专业智能体越来越多地通过命令行界面和多种工具，在包含文件、消息和业务应用的共享工作空间中开展工作。这些环境带来的安全风险难以通过放置在单一已知读取位置的攻击来捕捉。我们提出 APEX-Harm，这是一个用于评估针对在大型工作空间中执行金融、咨询和法律任务的长时程智能体的提示注入和脚本注入的基准。每个任务包含 115 至 328 个文件，以及通过 MCP 服务器暴露的电子邮件、日历、聊天、文档、电子表格、PDF 和代码执行工具。该基准包含六个攻击类别，涵盖静态和动态注入、任务特定脚本替换以及攻击者提供的通用脚本，并评估攻击成功率、暴露程度和任务性能。我们在每个模型 180 个任务实例上评估了 12 个前沿模型。Opus 5 和 Sonnet 5 的总体攻击成功率最低（8% 和 20%），而任务特定脚本替换和攻击者提供的通用脚本攻击仍然明显更有效，平均攻击成功率分别为 81-84% 和 73%。Gemini 3.8 Flash 取得了最高的平均任务得分（0.877），同时仍表现出 33% 的攻击成功率。这些结果表明，完成所请求的任务并不足以证明行为安全：智能体可以在产生正确交付成果的同时，在工作空间中执行未经授权的操作。
| 学科： | 密码学与安全（cs.CR）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.13623 [cs.CR] |
| （或 arXiv:2610.13623v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.13623 arXiv 颁发的 DOI，通过 DataCite（待注册） |
提交历史
来自：Ziyi Yang [查看电子邮件]
[v1]
2026 年 10 月 9 日星期五 14:05:47 UTC（1,257 KB）
来源：arXiv cs.CL · arxiv.org