arXiv cs.AI· Qikun Cai, Tao Huang, Chen Hou·· 3 天前AI 评分32
面向邮件生成 LLM 智能体的低成本隐私执行机制：应对策略性信息请求
Cost-Efficient Privacy Enforcement for Email-Generating LLM Agents under Strategic Information Requests
AI 导读
研究者提出本地契约条件重写机制，为邮件生成 LLM 智能体拦截外发草稿，用本地 Gemma 重写器按信息释放契约改写，并选择性调用最终 PrivacyChecker。
正文 · AI 翻译
摘要：LLM 智能体现在充当委托通信中介：它们读取私密上下文、起草消息，并代表用户发送对外可见的电子邮件。现有的检查器-修复防御可以减少不当披露，但每当草稿未通过验证时，它们都依赖对远程操作 LLM（起草和修复电子邮件的模型）和远程检查器 LLM 的反复调用。这既带来了成本问题，也带来了隐私问题，尤其是当请求者策略性地索要精确值、原始记录、来源证据或其他会诱导高泄漏草稿的细节时。我们提出局部契约条件重写，作为电子邮件生成智能体的一种成本高效的执行层。该机制拦截外发草稿，构建一份信息释放契约，规定哪些内容应保留、泛化和禁止，使用本地 Gemma 重写器重写草稿，并有选择地调用最终的 PrivacyChecker。在正常提示和将策略性信息请求付诸实施攻击提示下的大量电子邮件任务中，Gemma + Checker 将正常提示下的泄漏率从 11.41% 降至 4.03%，同时将 UsableRate（已满足或部分满足的输出）从 85.2% 提升至 92.6%。在策略性攻击提示条件下，它将泄漏率从 28.19% 降至 18.79%，并将仅使用检查器的成本放大从 1.32 倍降至 1.02 倍。离线回放消融实验表明，与通用 Gemma 重写相比，完整契约在正常提示下将泄漏降低 36.3%，在攻击提示下降低 54.1%。这些结果支持一种本地优先的隐私执行设计：尽可能将修复转移到成本更低的可信本地层，但保留检查器作为高风险发送的最终语义关口。
| 评论： | 24 页 |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.18007 [cs.CR] |
| （或本版本的 arXiv:2610.18007v1 [cs.CR]） | |
| https://doi.org/10.48550/arXiv.2610.18007 arXiv 颁发的 DOI，通过 DataCite（待注册） |
提交历史
来自：Tao Huang [查看电子邮件]
[v1]
2026 年 10 月 13 日星期二 09:06:12 UTC（1,222 KB）
来源：arXiv cs.AI · arxiv.org