arXiv cs.AI· V\'aclav Jane\v{c}ek, Thomas Melham·· 1 天前AI 评分31
生成式 AI 工作流中的特权与保密问题
Privilege and confidentiality in generative AI workflows
AI 导读
生成式 AI 通过模型参数训练与记忆、会话上下文窗口、RAG 知识库三种方式存储和处理客户数据，各自带来不同且常反直觉的保密与法律职业特权风险。
正文 · AI 翻译
摘要：生成式 AI（GenAI）系统以三种不同方式存储和处理客户数据：通过训练和记忆存储在模型参数中，在实时会话期间存储在上下文窗口中，以及存储在用于检索增强生成（RAG）的知识数据库中。每种模式都会对保密性和法律职业特权造成不同且往往反直觉的风险，且每种模式都需要特定的治理应对措施。我们依据首批处理特权与生成式 AI 问题的英国和美国判决——UK and Munir v Secretary of State for the Home Department 和 United States v Heppner，依据解读这些判决所必须参照的正统特权权威判例，以及依据近期的计算机科学研究，以从业者易于理解的方式解释这三种数据存储和处理模式，并分析每种模式的法律后果。随后，我们将该分析置于英格兰和威尔士规制事务律师的监管框架之内，并置于职业过失的一般原则之内，主张有效信息治理的标准（以及衡量过失和不当行为的基准）正在发生变化。尽管我们主要面向受 SRA 监管的从业者写作，我们的数据治理分析框架旨在延伸适用于任何特权或职业保密保护取决于可证明的保密性的法域。本文的最终目标是帮助法律服务专业人士理解 GenAI 系统中突出的数据泄露风险，从而促进在客户数据和其他敏感材料上更负责任地部署 GenAI。
| 评论： | 经小幅修订的版本 |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2607.05479 [cs.CR] |
| （或 arXiv:2607.05479v2 [cs.CR] 为本版本） | |
| https://doi.org/10.48550/arXiv.2607.05479 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Thomas Melham [查看电子邮件]
[v1]
2026年7月6日星期一 14:38:58 UTC（566 KB）
[v2]
2026年11月11日星期三 16:44:14 UTC（640 KB）
来源：arXiv cs.AI · arxiv.org