arXiv cs.AI· Piyush Tiwary, Anushka Srivastava, Prathosh A. P·· 11 小时前AI 评分34
为 LLM 引入可审计性：Auditable Unlearning 提出机器遗忘的第四评估轴
Auditable Unlearning for LLMs
AI 导读
研究提出将“可审计性”作为机器遗忘的第四评估轴，要求服务方能在统计量上区分遗忘集与保留集。在 TOFU、MUSE 和 RWKU 上测试 11 种遗忘方法，无一同时满足遗忘、能力保留、成员推断鲁棒性和可审计性四项要求。
正文 · AI 翻译
摘要：机器遗忘旨在在收到删除请求后从已训练的模型中移除用户数据。现有方法主要在三个维度上进行评估——遗忘效果如何、保留多少能力，以及对成员推理攻击的鲁棒性如何，但没有评估提供方能否向用户提供删除已发生的任何证据。为填补这一空白，我们引入可审计性作为第四个维度，其定义为在提供方计算的某个统计量下，请求删除的数据（遗忘集）与保留的数据（保留集）之间的区分度。我们表明，在 TOFU、MUSE 和 RWKU 上的十一种遗忘方法中，没有一种方法满足全部四个维度，不同方法在不同维度上存在不足。为解决这一问题，我们提出一种可叠加于任何遗忘方法之上的两阶段方法：在第一阶段，我们提出 ${GapWiden}$，它使用合页损失来增大遗忘集与保留集的审计统计量之间的差异。在第二阶段，我们提出 ${GapVeil}$，一种推理时拒绝采样器，它以基础模型作为起草器，并根据所起草响应的审计统计量进行重新采样。我们观察到，使用我们的方法，每种遗忘方法的可审计性和泄漏均达到与 oracle 相当的水平，遗忘性能收敛至 oracle；十一种方法中有九种的保留性能得到提升，但仍未达到与 oracle 相当的水平。我们的结果表明，删除证据或可审计性可以通过设计来构建，并且将其视为一项明确要求会改变现有遗忘方法的可行性。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2611.05866 [cs.AI] |
| （或 arXiv:2611.05866v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.05866 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Piyush Tiwary [查看电子邮件]
[v1]
2026年11月4日星期三 02:58:44 UTC（534 KB）
来源：arXiv cs.AI · arxiv.org