arXiv cs.AI· Valentin Dorseuil (DI-ENS), Meenatchi Sundaram Muthu Selva Annamalai (UCL), Jamal Atif (CMAP), Olivier Capp\'e (DI-ENS), Nicolas Papernot (Inria)·· 11 小时前AI 评分31
差分隐私审计中的选择偏差：如何可靠估计隐私下界
Reliable Estimation of Differential Privacy under Selection Bias
AI 导读
研究发现，先前工作中的许多成员推理攻击（MIA）审计实现存在选择偏差，导致差分隐私（DP）机制的下界估计在统计上无效且被高估。该工作引入统计学方法纠正这一偏差，并重新分析既有审计结果：未做统计校正时，这些审计违反理论上界的频率最高可达其声称置信水平的四倍；校正后下界在统计上有效，违规率不超过名义水平。
正文 · AI 翻译
摘要：统计隐私审计对于验证差分隐私（DP）机制的理论隐私保证至关重要。审计人员通常使用成员推理攻击（MIA）来估计 DP 机制在指定置信水平下真实隐私泄露的下界，该下界不应超过 DP 所保证的理论隐私上界。然而，我们发现先前工作中的许多审计实现在运行 MIA 时引入了选择偏差，这会导致统计上无效且被高估的下界。由于大多数审计并不紧致，这一偏差迄今未被注意到：估计的下界仍远低于理论上界。尽管如此，准确评估该下界至关重要，因为存在缺陷的统计评估可能会对正确的机制产生误报，或对保证的紧致性做出错误评估。本工作采用统计学文献中的工具来纠正这一偏差。我们概述了不同的纠正方法并评估了它们各自的优势。此外，我们对先前审计实现返回的结果进行了全面的重新分析，并表明在没有统计纠正的情况下，这些审计违反理论上界的频率最高可达其声称置信水平所暗示频率的四倍。应用纠正后，所得下界在统计上是有效的，违规发生率不超过名义比率。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；机器学习（cs.LG）；机器学习（stat.ML） |
| 引用为： | arXiv:2610.27021 [cs.CR] |
| （或 arXiv:2610.27021v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.27021 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Valentin DORSEUIL [查看电子邮件] [通过 CCSD 代理]
[v1]
2026年10月19日星期一 13:59:44 UTC（202 KB）
来源：arXiv cs.AI · arxiv.org