arXiv cs.AI· Saheed A. Tijani, Frank Jiang, Ming Liu·· 11 小时前AI 评分22
LiBRA:用 Logit 指纹实现联邦学习中的拜占庭鲁棒客户端选择
LiBRA: Logit Fingerprints for Byzantine-Robust Client Selection in Federated Learning
AI 导读
LiBRA 提出用模型对伪模式产生的类条件 logit 响应(C 个类别共 C² 个值)作为客户端指纹,替代参数向量做拜占庭鲁棒聚合中的相似度比较。基于该指纹改造的 Krum、Multi-Krum 和 Bulyan 变体在 Fashion-MNIST 与 CIFAR-10 上保持原方法的全部防御能力,后门攻击下恶意客户端排序与全参数向量的 AUC 差距在 0.006 以内。
正文 · AI 翻译
摘要:拜占庭鲁棒聚合可保护联邦学习免受恶意更新的影响,但用于过滤可疑更新的规则是通过比较客户端的参数向量来实现的。这种比较需要访问每个客户端的更新,而安全聚合的存在正是为了不公开这些更新;其计算成本在参数维度 $d$ 上为 $O(n^2 d)$,并且仅在共享同一架构的客户端之间才有定义。我们提出 LiBRA,它比较的是客户端模型所计算的内容,而非进行计算所用的参数,使用针对 $C$ 个类别的 $C^2$ 个值构成的指纹,即每个客户端模型对针对其优化的伪模式的类别条件 logit 响应。我们将 LiBRA 实例化为 Krum、Multi-Krum 和 Bulyan 的变体,仅改变相异度分数的计算对象。在 Fashion-MNIST 和 CIFAR-10 上,使用三种架构和四种后门与标签操纵攻击、在独立同分布划分下,每个变体都能抵御其父规则所能抵御的每一种攻击;并且在相同的客户端更新下,面对后门攻击时,该指纹对恶意客户端的排序与完整参数向量的 AUC 差距在 0.006 以内。因此,这些变体与其所扩展的规则具有相同的鲁棒性,而它们的信任决策不读取任何客户端参数,比较的数值最多减少 49,090 倍,并且从构造上可以比较架构不同的客户端,代价是每轮每个客户端进行一次模式优化。
| 主题: | 机器学习 (cs.LG);人工智能 (cs.AI) |
| 引用为: | arXiv:2610.27357 [cs.LG] |
| (或 arXiv:2610.27357v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.27357 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Saheed Tijani [查看电子邮件]
[v1]
2026年10月19日星期一 22:35:44 UTC(368 KB)
来源:arXiv cs.AI · arxiv.org