arXiv cs.CL· Mohammad Kachuee, Phu Mon Htut, Sheng Li, Nikolaos Pappas, Miguel Ballesteros Martinez, Yassine Benajiba, Sujith Ravi, Dan Roth·· 11 小时前AI 评分42
MAS-Guard：从单个智能体到多智能体 LLM 系统的统一防护框架
MAS-Guard: Unified Guardrails from Individual Agents to Multi-Agent LLM Systems
AI 导读
研究者提出统一防护框架 MAS-Guard，覆盖单个与多智能体 LLM 应用，在 6 个基准、3 个不同厂商的智能体 LLM 上测试，相对无防护智能体将整体攻击成功率降低 71.5-86.3%，同时在良性任务上满足效用参考标准。
正文 · AI 翻译
摘要：Agentic AI 将大型语言模型（LLM）从生成响应扩展到规划和执行复杂工作流，大幅提升了其实用性，同时也使应用面临不安全操作、信息泄露和对抗性操纵的风险。多智能体系统通过专业化和协作进一步扩展了这些能力，但分布式权限、异构角色以及不透明或可能被攻陷的参与者，使防护工作更具挑战性。现有防御措施针对重要的单项威胁，但在本地执行、系统级交互和执行机制方面的覆盖较为零散。我们提出 MAS-Guard，一个统一框架，为包含可插桩智能体和不透明智能体的单智能体与多智能体 AI 应用填补这一防护空白。在可插桩智能体内部，所提出的本地 Agent Guardrail（A-Guard）层应用任务专用专家来评估智能体事件。在系统层面，由开发者拥有的 Agent Charters 与控制平面相结合，对路由、智能体能力和消息格式进行确定性结构检查，并对角色和消息内容进行语义评估。这些互补的层次通过一组共享干预措施来执行：允许、反思、确认和阻止。在涵盖多种单智能体和多智能体场景、使用来自不同提供商的三个智能体 LLM 的六个基准上评估，MAS-Guard 相对于未受防护的智能体将总体攻击成功率降低了 71.5-86.3%，同时在良性任务上满足效用参考标准。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.28397 [cs.CR] |
| （或本版本使用 arXiv:2610.28397v1 [cs.CR]） | |
| https://doi.org/10.48550/arXiv.2610.28397 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Mohammad Kachuee 先生 [查看电子邮件]
[v1]
2026年10月20日星期二 15:44:37 UTC（3,360 KB）
来源：arXiv cs.CL · arxiv.org