arXiv cs.CY· Lucas Rosenblatt, R. Teal Witter, Christopher Musco·· 10 小时前AI 评分31
SPLICE:基于切片 Chebyshev 矩的差分隐私合成数据算法
Differentially Private Synthetic Data from Sliced Chebyshev Moments
AI 导读
新差分隐私合成数据算法 SPLICE 通过测量带噪切片 Chebyshev 多项式矩并拟合分布,在常数隐私参数下返回与目标分布的 Sliced Wasserstein-1 距离为 Õ(1/√n) 的私有分布,且该界与数据维度 d 无关。
正文 · AI 翻译
摘要:关于实用差分隐私(DP)合成数据的研究,主要集中于能够近似保留目标分布低维边缘的方法,因此只能寄希望于将更高维的全局结构作为幸运的副产品保留下来。与此同时,现有那些以全局精度保证为目标的方法,需要付出随数据维度 $d$ 指数增长的代价。
在本工作中,我们通过提出一种新的 DP 合成数据算法 SPLICE 来应对这一“维数灾难”,该算法即使在 高维 情况下也能提供令人信服的全局分布保证,而且在实践中处于最先进水平。我们的算法基于测量目标分布的含噪切片 Chebyshev 多项式矩,并拟合一个分布与之匹配,这是对近期用于一维合成数据的多项式方法的一种变体。
我们证明,给定包含 $n$ 个样本的数据集,在隐私参数为常数的情况下,SPLICE 返回的私有分布与目标分布之间的 Sliced Wasserstein-1 距离为 $\tilde{O}(1/\sqrt{n})$。值得注意的是,该界与数据维度 $d$ 无关。在此过程中,我们还证明了一个具有独立意义的矩匹配结果:对于单位球上的分布,沿 $\tilde{O}(d/\alpha^2)$ 个随机方向匹配前 $O(1/\alpha)$ 个 Chebyshev 矩,即可保证 $\alpha$ 的 Sliced Wasserstein 误差。
最后,我们提供了该算法的一个实用实现,它借鉴了张量分解文献中的工具,并在广泛的基准测试中相比先前的 DP 合成数据方法达到了最先进的性能。
| 主题: | 机器学习(cs.LG);计算机与社会(cs.CY);数据结构与算法(cs.DS) |
| MSC 分类号: | 68P27、68T05(主分类),49Q22、41A10、60E15、62G05(次分类) |
| ACM 分类号: | G.3;I.2.6;G.1.2;K.4.1 |
| 引用为: | arXiv:2610.42081 [cs.LG] |
| (或 arXiv:2610.42081v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.42081 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Lucas Rosenblatt [查看电子邮件]
[v1]
2026年10月30日星期五 17:34:58 UTC(243 KB)
来源:arXiv cs.CY · arxiv.org