arXiv cs.CL· Asif Shahriar, Md Nafiu Rahman, Sadif Ahmed, Farig Sadeque, Md Rizwan Parvez·· 10 小时前AI 评分38
智能体安全综述：应用、威胁与防御
A Survey on Agentic Security: Applications, Threats and Defenses
AI 导读
一篇被 TMLR 2026 接收的综述首次系统梳理智能体安全领域，围绕应用、威胁与防御三大支柱构建分类体系，覆盖 274 篇论文。研究涵盖红队与蓝队智能体、智能体系统攻击面、防御技术及攻防评估框架，并量化分析攻击入口与智能体循环阶段、防御策略的成本与安全权衡。交叉分析还映射了防御与攻击类别的覆盖关系，并梳理智能体架构、基座模型使用与数据模态的趋势。
正文 · AI 翻译
摘要：在本工作中，我们首次对智能体安全领域进行了整体性综述，围绕应用、威胁与防御这三大基本支柱来组织该领域。我们提供了涵盖 274 篇论文的全面分类体系，覆盖红队测试、蓝队测试与特定领域应用、智能体系统上的攻击面、防御技术，以及攻防两方面的评估框架。对于每个支柱，我们首先讨论围绕该分类体系的文献，然后进行定量分析，以理解这些工作中的模式。在应用方面，我们展示了其安全生命周期覆盖图，比较了红队智能体与蓝队智能体，并分析了红队应用的对抗性使用。在威胁方面，我们分析了攻击所针对的入口点和智能体循环阶段、它们对智能体场景的特异性，以及它们所假设的威胁模型。在防御方面，我们分析了主流防御策略、其成本与安全权衡，以及它们在智能体生命周期中的部署位置。最后，我们提供了详细的交叉分析，其中我们映射了哪些防御覆盖哪些攻击类别，并描绘了智能体架构、骨干模型使用和数据模态覆盖方面的趋势。综合来看，这些发现使研究者能够从结构上理解智能体能力、漏洞和对策之间的相互关系，并识别该领域的集中之处与薄弱之处。
| 评论： | Transactions on Machine Learning Research (TMLR) 2026 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；密码学与安全（cs.CR） |
| 引用为： | arXiv:2510.06445 [cs.CL] |
| （或本版本的 arXiv:2510.06445v4 [cs.CL]） | |
| https://doi.org/10.48550/arXiv.2510.06445 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Asif Shahriar [查看电子邮件]
[v1]
2025 年 10 月 7 日星期二 20:32:20 UTC（102 KB）
[v2]
2025 年 12 月 20 日星期六 13:42:00 UTC（81 KB）
[v3]
2026 年 6 月 12 日星期五 21:57:35 UTC（2,027 KB）
[v4]
2026 年 10 月 31 日星期六 19:41:43 UTC（887 KB）
来源：arXiv cs.CL · arxiv.org