arXiv cs.AI· Anna Yoo Jeong Ha, Ronik Bhaskar, Haitao Zheng, Ben Y. Zhao·· 10 小时前AI 评分45
Whiteout：用混淆样本阻止 LLM 泄露个人敏感信息
Mitigating Private Data Leakage in LLMs with Whiteout
AI 导读
研究者提出 Whiteout，可在个人提出请求后，用精确设计的混淆样本覆写 LLM 中的真实个人敏感信息（PSI），阻止模型复述生日、电话、住址等内容。该方法在包括一款常用 OpenAI 模型在内的多种规模与厂商模型上测试，能有效阻止目标 PSI 泄露，对模型效用与安全性影响可忽略，并优于现有方案。面对越狱等黑盒攻击及重学习、量化等白盒自适应攻击，Whiteout 同样通过测试。
正文 · AI 翻译
摘要：现代大型语言模型（LLM）在大量基本未经过滤的数据集上进行训练，其中包括从几乎所有可访问网站抓取的内容以及用户输入。因此，LLM 常常会记忆并复现个人敏感信息（PSI），例如出生日期、电话号码和家庭住址。这带来了重大的隐私风险，尤其是对高管、政治人物和法官等知名人士而言。现有的缓解措施主要依赖机器遗忘。然而，这些方法往往会删除超出所需的信息，降低模型效用和安全性，并且极易受到攻击。
本文提出了 Whiteout，这是一种实用工具，可在个人提出请求后，通过使用精确且精心设计的混淆样本覆盖其真实 PSI，阻止 LLM 复述这些信息。我们在不同规模和不同厂商的现代 LLM 上评估了 Whiteout，包括一个广泛使用的 OpenAI 模型。结果表明，Whiteout 能有效防止目标 PSI 被泄露，对模型效用和安全性的影响可忽略不计，并且优于现有替代方案。我们还针对多种对抗措施测试了 Whiteout，从越狱等黑盒攻击到重学习和量化等白盒自适应攻击。最后，我们讨论了 Whiteout 的安全与伦理影响。
| 评论： | v2：修正了少量拼写错误和格式问题 |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.02418 [cs.CR] |
| （或使用 arXiv:2610.02418v2 [cs.CR] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2610.02418 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Anna Yoo Jeong Ha [查看电子邮件]
[v1]
2026年10月1日星期四 19:40:38 UTC（1,325 KB）
[v2]
2026年11月10日星期二 01:50:25 UTC（1,341 KB）
来源：arXiv cs.AI · arxiv.org