arXiv cs.AI· Dario Fenoglio, Daniil Kirilenko, Martin Gjoreski, Marc Langheinrich·· 3 天前AI 评分18
FedCRF:用条件随机场结构化概率推断实现联邦学习聚合
Federated Learning with Energy-Based Structured Probabilistic Inference
AI 导读
研究者提出 FedCRF,将联邦学习的服务器聚合建模为基于条件随机场的结构化概率推断,把客户端表示为图节点并定义一元与成对能量势,从而联合推断客户端可靠性与相似关系。推断出的可靠性和亲和度可统一支撑全局聚合、拜占庭鲁棒性、聚类联邦学习和个性化联邦学习。在 CIFAR-10、FEMNIST 和 Fed-ISIC2019 上,单一超参数配置下其表现与专用方法相当或更优。
正文 · AI 翻译
摘要:联邦学习(FL)使多个客户端能够在不共享本地数据的情况下协作训练机器学习模型。然而,客户端数据的异构性以及不可靠或对抗性更新的存在,使得有效的服务器聚合面临挑战,这促使人们提出根据客户端的可靠性和关系来调整其贡献的方法。在这项工作中,我们将联邦学习中的服务器聚合建模为使用条件随机场进行结构化概率推断。我们将客户端表示为图中的节点,并定义一元和成对能量势。一元势捕捉单个客户端的属性,而成对势编码客户端之间的相似性。这种建模将单个客户端的证据和成对关系视为联合推断问题中的耦合证据,允许集体推断客户端可靠性,并用所得的估计来指导聚合。大多数联邦学习方法只针对单一挑战,而 FedCRF 推断出的可靠性和亲和力为全局聚合、拜占庭鲁棒性、聚类联邦学习和个性化联邦学习提供了一种统一的表示。仅用一组超参数,它在 CIFAR-10、FEMNIST 和 Fed-ISIC2019 上,在多种形式的客户端异构性和不可靠性下,与专门方法相比具有竞争力或表现更优。
| 评论: | 修订版(23 页) |
| 学科: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2606.30161 [cs.LG] |
| (或 arXiv:2606.30161v2 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2606.30161 arXiv 颁发的 DOI,通过 DataCite |
提交历史
来自:Dario Fenoglio [查看电子邮件]
[v1]
2026 年 6 月 29 日星期一 11:38:46 UTC(165 KB)
[v2]
2026 年 10 月 9 日星期五 19:57:18 UTC(194 KB)
来源:arXiv cs.AI · arxiv.org