arXiv cs.AI· Sunday Oyinlola Ogundoyin, Muhammad Ikram·· 3 天前AI 评分34
多智能体 LLM 系统中拓扑驱动的信息泄露与按接收方定制的净化机制
When Agents Talk, Secrets Travel: Topology-Driven Leakage and Recipient-Conditioned Sanitization in Multi-Agent LLM Systems
AI 导读
多智能体 LLM 系统（MALS）存在传统敏感度防御无法捕捉的隐私泄露：信息经常规协作传播至未授权智能体。研究评估了 485 个场景，发现拓扑结构使向拓扑引入接收方的泄露从 0% 升至 52.2%，而表面泄露稳定在 60.6%-62.8%。提出的 RECONS 净化器将残余泄露从 96.7% 降至 29.25%，同时保留 94.1% 的授权披露。
正文 · AI 翻译
摘要：多智能体 LLM 系统（MALS）引入了一个传统基于敏感性的防御措施所忽视的隐私泄露问题，因为向一个已授权智能体披露的信息可以通过常规协调传播到一个未授权的智能体，而无需发生入侵或恶意行为。这促使我们采用拓扑感知的执行机制，在阻止未授权传播的同时保留已授权披露。我们评估了跨协调者-工作者、点对点和分层拓扑的 485 个场景，对七种通信渠道进行插桩，并测量表面泄露和向拓扑引入的接收者的披露。我们提出了 RECONS，一种“检测 -> 决策 -> 转换”的净化器，其干预条件基于接收者和执行上下文，而不仅仅是敏感性。拓扑改变了受保护信息的传播位置，向拓扑引入的接收者的披露从 0% 上升到 52.2%，而表面泄露几乎持平在 60.6-62.8%。这一效应在四个生成器模型和第二个编排框架中持续存在，尽管幅度和中继路径有所不同；框架选择单独驱动了 150 倍的泄露差异，因此仅靠拓扑是不够的。RECONS 将残余披露从无净化时的 96.7% 降低到 29.25%，保留了 94.1% 的已授权披露，而全面脱敏下仅为 20.5%。检测覆盖率是主要瓶颈，占残余披露的 95.5%。这些结果表明，MALS 中的隐私执行必须考虑运行时实现的接收者和通信路径，而不仅仅是敏感性或拓扑假设。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.16039 [cs.CR] |
| （或 arXiv:2610.16039v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.16039 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Sunday Ogundoyin [查看电子邮件]
[v1]
2026年10月12日星期一 01:23:51 UTC（2,864 KB）
来源：arXiv cs.AI · arxiv.org