arXiv·· 13 天前AI 评分29
CaMeL 能否应对多智能体系统？间接提示注入攻击的防护边界研究
Can CaMeLs Talk? Securing Multi-Agent Systems Against Indirect Prompt Injection Attacks
AI 导读
研究检验了 CaMeL 在层级多智能体系统中的安全性，发现其针对单个智能体的防护保证无法组合——当智能体将其他智能体作为工具调用时，攻击者可构造具体攻击绕过防护。CaMeL 原本通过分离可信控制流与不可信数据、在运行时执行基于能力的安全策略来缓解间接提示注入。
来源：arXiv · arxiv.org