arXiv cs.CL· Daniel Ruiz, Luca Luceri, Emilio Ferrara·· 12 小时前AI 评分52
Agent Mosaic：智能体式 LLM 系统中的机密泄露识别
Agent Mosaic: Recognizing Confidentiality Leaks in Agentic LLM Systems
AI 导读
论文提出智能体式 LLM 系统的“马赛克效应”机密泄露问题，即智能体从可访问文档中检索信息后拼出敏感结论并披露。研究用 30 个网络安全、医疗和军事合成案例，在受控模拟中从三个 LLM 智能体获得 10,800 条最终答案，并在两个开源 harness 的在线智能体上获得 1,440 条答案。
正文 · AI 翻译
摘要：现代 LLM 智能体可以从可访问的文档中检索信息，然后披露由这些信息拼合而成的敏感结论。这种马赛克效应为在机密数据上运行的智能体带来了重大风险。我们通过 30 个合成的网络安全、医疗和军事示例量化了该风险的实际发生情况，在受控模拟中从三个 LLM 智能体获得了 10,800 个最终答案，并在两个开源测试框架中从实时智能体获得了 1,440 个答案。即使在设计为可从单一文档回答的良性查询下，测试中表现最佳的模型 GPT-5.6-Sol 在模拟中仍有 7.08% 的答案（95% CI：3.75-10.67%）披露了禁止的合成信息，而在实时测试框架中披露率更高。添加可见的密级标头和明确的聚合规则可大幅降低汇总披露率，但尽管有这些防护措施，在所有意图下，模拟答案中仍有 32.37%（95% CI：28.33-36.19%）存在不安全的披露。此外，拒绝率上升并不能保证机密性，因为显著的拒绝本身就会揭示被禁止的结论。这些结果指向一个令人不安的结论：在评估环境中，通过马赛克式事件导致的敏感数据泄露是一种以不可忽略的比率观察到的机密性失效模式。这促使我们对智能体在具有混合密级用户的环境中可推断和披露的内容实施更强的控制。
| 评论： | 16 页，9 幅图，提交至 ACL Rolling Review，2026 年 10 月周期 |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.30418 [cs.CR] |
| （或 arXiv:2610.30418v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.30418 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Daniel Ruiz [查看电子邮件]
[v1]
2026 年 10 月 21 日星期三 20:25:11 UTC（227 KB）
来源：arXiv cs.CL · arxiv.org