arXiv cs.AI· Yixiang Luo, Ziheng Ma, Ke Chang, Jian Wang, Jiqiang Liu·· 10 小时前AI 评分31
当安全检查变成隐私风险：面向 LLM 智能体安全审计的隐私保护范式
When Safety Checks Become Privacy Risks: A Privacy-Preserving Paradigm for LLM Agent Safety Auditing
AI 导读
研究者提出隐私保护安全审计范式，将委托审计计算与明文访问、执行权限分离，并落地为框架 SealCall，结合学习式审计表示、基于 CKKS 的加密相似度计算与绑定受审工具调用的执行控制。在 1,252 个公开二元候选上，SealCall 在分组嵌套评估下平均 F1 达 0.840，所有测量案例中审计决策与明文一致，代表性配置每次加密评分耗时 0.176 s。
正文 · AI 翻译
摘要：大型语言模型智能体通过工具调用与在线服务交互，这些调用可能访问私人数据或执行敏感操作。专业提供商可以为智能体运营方提供并维护执行前的安全审计能力。然而，将任务描述、调用参数和交互历史发送给外部审计方可能会泄露敏感的用户信息。在本工作中，我们提出了一种隐私保护安全审计范式，将委托的审计计算与明文访问和执行权限分离。该范式基于三域审计模型，通过显式接口将可信表示构建、加密审计计算以及可信决策与执行连接起来。这些接口可容纳替代的表示和评分器，而加密计算可保护审计输入免受半诚实审计方的影响。我们在 SealCall 中实例化了该范式，这是一个结合了学习型审计表示、基于 CKKS 的加密相似度计算以及与受审计工具调用绑定的执行控制的框架。在 1,252 个公开二元候选样本上进行评估，SealCall 在分组嵌套评估下取得了 0.840 的平均 F1 分数，同时在所有测量案例中保持了明文审计决策。一个代表性配置在 0.176 秒内完成每次加密评分操作。
| 评论： | 12 页，2 幅图，10 张表 |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.41401 [cs.CR] |
| （或 arXiv:2610.41401v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.41401 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yixiang Luo [查看邮箱]
[v1]
2026 年 10 月 30 日星期五 08:12:45 UTC（2,264 KB）
来源：arXiv cs.AI · arxiv.org