arXiv cs.AI· Soumya Sharma, Ayana Hussain, Heber Hwang Arcolezi, Ulrich A\"ivodji, Spandana Gella, Adriana Romero-Soriano, Golnoosh Farnadi·· 3 天前AI 评分44
Loose Lips：Agentic 对话中的隐私泄露研究
Loose Lips: Understanding Privacy Leakage in Agentic Dialogue
AI 导读
研究者将 CIMemories 扩展为 CIMEMORIES DIALOGUE，一个基于 Contextual Integrity 理论的 4,410 组双智能体对话基准，并据此评估 Qwen3 与 Llama 3.1 家族的 7 个开源权重模型。结果显示任务能力与隐私泄露根本耦合：能力越强的模型泄露越多，思考型模型比非思考型泄露更多，对话从 1 轮增至 6 轮时泄露最高上升 3 倍。
正文 · AI 翻译
摘要：随着 LLM 智能体越来越多地部署于高风险企业环境中，理解它们在智能体对话中如何处理敏感信息已变得至关重要。此类场景中的隐私泄露需要推理信息流是否遵循其产生时所处的语境规范。我们将 CIMemories 扩展为 CIMEMORIES DIALOGUE，这是一个基于语境完整性理论的基准，包含 4,410 个双智能体对话实例。利用该基准，我们系统性地评估了来自 Qwen3 和 Llama 3.1 系列的 7 个开放权重模型，在 1 轮和 6 轮对话长度以及三种提示条件下进行测试。我们发现任务能力与隐私泄露从根本上相互耦合：能力更强的模型系统性地泄露更多，在我们的评估中没有任何模型能够将二者解耦。思考型模型始终比其非思考型对应模型泄露更多，我们将这一模式归因于思维链所创造的扩展推理面。泄露随对话长度累积，从 1 轮到 6 轮最高增加至 3 倍。我们的结果表明，任务能力与隐私泄露之间的耦合并非配置错误的产物，而是当前智能体系统的一种结构性特征。
| 评论： | Spotlight @ HAIPS workshop @ COLM 2026 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.14071 [cs.CL] |
| （或使用 arXiv:2610.14071v1 [cs.CL] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2610.14071 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Soumya Sharma [查看邮箱]
[v1]
2026年10月7日星期三 23:25:11 UTC（2,809 KB）
来源：arXiv cs.AI · arxiv.org