arXiv cs.AI· Valentin Dorseuil (DI-ENS), Jamal Atif (CMAP), Olivier Capp{\'e} (DI-ENS)·· 1 天前AI 评分31
无需重训练即可评估单样本成员推理脆弱性
Assessing Per-Sample Membership Inference Vulnerability without Retraining
AI 导读
研究提出一种无需训练影子模型即可评估单个训练样本成员推理攻击（MIA）脆弱性的替代评分。在线性设定下，该方法将黑盒 MIA 脆弱性分解为总体杠杆分数与残差损失项，并扩展到深度网络，仅需一个已训练模型、基于最后一层表示计算。多数据集与架构实验显示，该评分在识别最高风险样本上优于损失和梯度范数基线。
正文 · AI 翻译
摘要：隐私文献中的近期工作表明，样本定向的成员推断攻击（MIA）在效果上大幅优于非定向方法。受此观察启发，我们探讨以下问题：能否在不训练影子模型的情况下评估各个训练点的隐私脆弱性？我们表明，每个样本对 MIA 的暴露程度不仅取决于该点的损失，还取决于一种数据相关的几何度量。在线性设定下，我们推导出个体黑盒 MIA 脆弱性的闭式分解，将其分解为总体杠杆得分与残差损失项，从而明确样本相关几何如何转化为隐私暴露。由于大多数现代架构的最后一层是线性的，我们将该框架扩展到深度网络，并提出一种作用于最后一层表示的替代得分，该得分仅需一个已训练模型，无需影子模型。在多种数据集和架构上的实证评估表明，在最先进攻击下识别最高风险点方面，我们的得分优于损失和梯度范数基线，为逐样本隐私风险评估提供了一种计算高效且有理论依据的工具。
| 主题： | 机器学习（stat.ML）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2602.15919 [stat.ML] |
| （或 arXiv:2602.15919v3 [stat.ML] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2602.15919 由 DataCite 颁发的 arXiv DOI |
|
| 期刊 参考： | 第40届神经信息处理系统大会（NeurIPS 2026），2026年12月，法国巴黎 |
提交历史
来自：Valentin DORSEUIL [查看邮箱] [通过 CCSD 代理]
[v1]
2026年2月17日星期二 07:07:31 UTC（1,151 KB）
[v2]
2026年5月26日星期二 13:43:17 UTC（4,127 KB）
[v3]
2026年11月12日星期四 16:49:45 UTC（3,896 KB）
来源：arXiv cs.AI · arxiv.org