arXiv·· 12 天前AI 评分31
规则止于何处，裁判始于何处：测量多智能体系统安全中的判断边界
Where Rules End and Judges Begin: Measuring the Judgment Boundary in Multi-Agent Systems Security
AI 导读
研究将 LLM 多智能体系统（MAS）的防御手段归纳为五项原则，并实现为 DEFER1（DEterministic-First Enforcement with Residual judgment），包含 28 项检查的级联流程，能拦截的先拦截，其余交由四人裁判组裁定。在四个领域的独立测试中，攻击成功率出现下降。
来源：arXiv · arxiv.org