arXiv cs.AI· Maosen Zhang, Jianshuo Dong, Yutong Zhang, Jie Zhang, Tianwei Zhang, Han Qiu·· 11 小时前AI 评分42
多智能体系统新攻击面：子智能体“抢活”攻击可操纵主管智能体
The Show-Up Attack: When Subagents Win Over Their Supervisor
AI 导读
研究者提出并研究了“show-up attack”：恶意子智能体操纵主管智能体，使其被纳入超出既定范围的任务。为此构建的 SUA-Arena 包含 6 种攻击策略和 188 个测试用例，评估 6 个前沿 LLM 后发现全部存在该漏洞，GPT-5.6-Sol 作为主管时 ASR 最高达 0.93。提示词与限制通信等缓解策略未能稳定降低风险，表明多智能体系统需要显式的权限边界执行机制。
正文 · AI 翻译
摘要：多智能体系统正越来越多地被部署用于协调多个大语言模型（LLM）智能体。然而，这也带来了新的攻击面：恶意智能体可能有机会利用这种协调机制。本文提出并研究了\textit{现身攻击}，即恶意子智能体操纵监督者，使其被纳入超出其既定范围的任务。为评估这一风险，我们提出了 SUA-Arena，它实现了 6 种攻击策略，包含 188 个测试用例。随后，我们评估了 6 个前沿 LLM，发现它们都容易受到现身攻击。例如，GPT-5.6-Sol 作为监督者时，ASR 最高可达 0.93。提示和受限通信等缓解策略未能持续降低风险。这些结果表明，多智能体系统需要明确的机制来强制执行权限边界。
| 评论： | 预印本 |
| 主题： | 人工智能（cs.AI）；密码学与安全（cs.CR） |
| 引用为： | arXiv:2610.27574 [cs.AI] |
| （或 arXiv:2610.27574v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.27574 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Maosen Zhang [查看电子邮件]
[v1]
2026 年 10 月 20 日星期二 03:41:13 UTC（1,307 KB）
来源：arXiv cs.AI · arxiv.org