arXiv cs.AI· Prakhar Ganesh, Yash More, Marco Romanelli, Ferdinando Fioretto, Golnoosh Farnadi·· 12 小时前AI 评分22
通用 LLM 时代，上下文隐私正被忽视
Privacy in Context Is Being Overlooked in the Age of General-Purpose LLMs
AI 导读
论文指出，提示词隐私研究正趋向设计统一框架，这忽视了隐私本质上是上下文相关的，并可能带来虚假的安全感。作者认为即便未来工作也需处理提示词隐私多项理想属性间的根本张力，建议转向应用特定部署、上下文特定评估与更好的隐私素养。
正文 · AI 翻译
摘要：随着大语言模型（LLM）在范围和能力上持续增长，隐私问题日益凸显。由于用户越来越多地在许多不同场景中与单一通用系统交互，人们自然倾向于追求一种一刀切的隐私解决方案。遗憾的是，这忽视了数十年隐私研究得出的一个关键洞见：隐私本质上是情境化的。在本文中，我们认为现有的提示隐私研究正逐渐趋向于设计统一框架，这种做法极具误导性，并可能滋生虚假的安全感。此外，我们认为即使未来在这一方向上的研究，也需要应对提示隐私各项理想属性之间的根本性张力。因此，这种持续追求统一框架的尝试需要被重新审视。我们建议三条关键的前进路径：针对特定应用部署 LLM、针对特定情境评估隐私框架，以及提升隐私素养。
| 评论： | 已被 AAAI 2026 大基础模型时代的个性化研讨会接收 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.29925 [cs.LG] |
| （或 arXiv:2610.29925v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.29925 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Prakhar Ganesh [查看电子邮件]
[v1]
2026年10月21日星期三 16:01:42 UTC（605 KB）
来源：arXiv cs.AI · arxiv.org