跳到正文
arXiv cs.MA· Matthew D. Laws, Maria Lazou, Alina Oprea, Cristina Nita-Rotaru·· 9 小时前AI 评分45

去中心化多智能体 LLM 系统的逐跳任务分解与委派攻击及防御

Attacks and Defenses in Decentralized Multi-Agent Systems with Hop-by-Hop Task Decomposition and Delegation

AI 导读

针对去中心化多智能体 LLM 系统,研究系统化梳理了恶意智能体带来的威胁并提出缓解方案:单个恶意智能体可致最高 100% 任务失败,token 消耗与运行时间分别膨胀至 7.7 倍和 3.2 倍,并泄露良性智能体最高 94% 的相关历史任务。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:去中心化多智能体 LLM 系统使独立管理的智能体能够协作完成复杂任务,每个智能体都有自己的操作者、模型、记忆和配置,无需中心化协调。智能体自主分解任务、执行子任务并将剩余工作委派给同伴,从而实现可扩展性并消除单点故障。然而,去中心化也带来了重大的安全挑战,因为没有任何单一实体能够完整掌握任务执行情况,也没有权限在所有智能体之间强制执行正确行为。
在本文中,我们系统化梳理了去中心化多智能体系统中恶意智能体带来的威胁,并提出了缓解技术。我们首先设计并评估了针对完整性、可用性和机密性的攻击,证明单个恶意智能体可导致高达 100% 的任务失败,使 token 消耗和运行时间分别最多膨胀 7.7 倍和 3.2 倍,并从良性智能体处窃取高达 94% 的相关先前任务。随后,我们提出了一种密码学协议,可生成系统中每个操作不可否认的已验证执行轨迹,并开发了一个审计器,通过分析这些轨迹来检测和归因恶意行为。在 HiddenBench 上使用 gpt-6.1-sol 和 Qwen3.8-27B-FP8 进行的评估表明,我们的协议带来的延迟开销可忽略不计,而审计器能够检测并正确归因 98% 的攻击,包括那些遵守协议的攻击。
评论: 17 页,5 张图,7 张表
主题: 密码学与安全(cs.CR);多智能体系统(cs.MA)
引用为: arXiv:2611.25056 [cs.CR]
  (或 arXiv:2611.25056v1 [cs.CR] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.25056

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Matthew D. Laws [查看邮箱]
[v1] 2026 年 11 月 18 日星期三 19:06:28 UTC(948 KB)

来源:arXiv cs.MA · arxiv.org