跳到正文
arXiv cs.CL· Alexander Gurung, Spandana Gella, Alexandre Drouin, Issam H. Laradji, Perouz Taslakian, Rafael Pardinas·· 10 小时前AI 评分45

MosaicLeaks:深度研究智能体开放查询中的隐私风险

MosaicLeaks: Privacy Risks in Querying-in-the-Open for Deep Research Agents

AI 导读

研究者提出 MosaicLeaks 基准,含 1,001 个多跳深度研究任务,将私有企业文档与公开网络语料串联,迫使智能体发起依赖本地信息的外部查询。用仅观察外部查询的对抗 LLM 评估发现,各模型家族与规模普遍在研究意图、私有问题答案和可验证声明三个层面泄露信息,零样本隐私提示效果不一致,仅针对任务性能的强化学习反而加剧泄露。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:深度研究智能体越来越多地将私有本地文档与网络检索等外部工具结合使用,由此带来隐私风险:智能体的外部查询可能泄露其本地上下文中的敏感信息。这种风险因马赛克效应而被放大,即单次查询看似无害,但聚合起来便具有揭示性。我们提出 MosaicLeaks,一个包含 1,001 个多跳深度研究任务的基准,这些任务将私有企业文档与公共网络语料串联起来,迫使智能体发起依赖本地信息的外部查询。我们使用一个对抗性 LLM 来评估泄露情况,该 LLM 仅观察智能体的外部查询,并尝试在三个层面推断私有信息:智能体的研究意图、对特定私有问题的答案,以及关于企业文档的可验证陈述。我们发现,不同系列和规模的模型在全部三个层面上都频繁发生泄露;零样本隐私提示在不同模型上的效果不一致;仅针对任务性能的强化学习会加剧泄露。为解决这一问题,我们提出隐私感知深度研究(PA-DR),这是一个强化学习框架,它将任务成功的情境奖励与学习得到的隐私分类器相结合,从而在单次查询和马赛克层面提供密集的信用分配。使用 PA-DR 训练 Qwen3-4B-Instruct 将准确率从 48.7% 提升至 58.1%,并将隐私泄露从 34.0% 降至 6.5%。
评论: 已被 EACL 2027(主会议)接收
主题: 计算与语言(cs.CL)
引用为: arXiv:2605.30727 [cs.CL]
  (或 arXiv:2605.30727v2 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2605.30727

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Alexander Gurung [查看电子邮件]
[v1] 2026年5月29日星期五 01:44:35 UTC(318 KB)
[v2] 2026年11月19日星期四 14:36:33 UTC(831 KB)

来源:arXiv cs.CL · arxiv.org