arXiv cs.AI· Fei Wang, Baochun Li·· 1 天前AI 评分31
联邦学习中的恶意服务器梯度泄露：攻击难以兼顾有效性与隐蔽性
Hear No Evil: Detecting Gradient Leakage by Malicious Servers in Federated Learning
AI 导读
针对联邦学习中恶意服务器操纵全局模型以诱发信息丰富梯度更新的攻击，研究首次从防御者视角给出全面分析，发现这类攻击无法同时做到高效重建隐私数据与足够隐蔽以逃避检测，在包含常见归一化和联邦平均的真实 FL 设置下尤其如此。作者据此提出一种简单轻量的客户端检测机制，在本地训练开始前标记可疑模型更新，以极小开销为注重隐私的联邦学习系统提供可部署的防护。
正文 · AI 翻译
摘要：近期研究表明，联邦学习（FL）中的梯度更新可能无意间泄露客户端本地数据的敏感信息。当恶意服务器操纵全局模型以诱导客户端产生信息丰富的更新时，这一风险会显著增大。本文从防御者视角出发，首次全面分析了恶意梯度泄露攻击及实现这些攻击的模型操纵技术。我们的研究揭示了一个核心权衡：这些攻击既无法在重建隐私数据上高度有效，又无法足够隐蔽以逃避检测——尤其是在包含常见归一化技术和联邦平均的现实 FL 设置中。
基于这一洞见，我们认为恶意梯度泄露攻击虽然在理论上令人担忧，但在实践中本质上受限，且往往可通过基本监控被检测到。作为补充贡献，我们提出了一种简单、轻量且广泛适用的客户端检测机制，可在本地训练开始前标记可疑的模型更新，尽管在现实 FL 设置中此类检测可能并非严格必要。该机制进一步凸显了以最小开销防御此类攻击的可行性，为注重隐私的联邦学习系统提供了一种可部署的保障。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI）；密码学与安全（cs.CR）；分布式、并行与集群计算（cs.DC） |
| 引用为： | arXiv:2506.20651 [cs.LG] |
| （或 arXiv:2506.20651v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2506.20651 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Fei Wang [查看电子邮件]
[v1]
2025年6月25日星期三 17:49:26 UTC（3,475 KB）
来源：arXiv cs.AI · arxiv.org