arXiv cs.AI· Quan Minh Nguyen, Hoang M. Ngo, Bhakti Chowkwale, Yasaman Keshtkarjahromi, My T. Thai·· 10 小时前AI 评分26
FedFiOT：面向单轮与少轮联邦学习的 Fisher 加权最优传输模型合并框架
FedFiOT: Fisher-Weighted Optimal Transport for Model Merging in One-Shot and Few-Round Federated Learning
AI 导读
FedFiOT 用 Fisher 信息量化参数重要性，联合优化神经元对应关系与全局模型参数，解决单轮及少轮联邦学习中客户端模型神经元错位与参数重要性差异导致的直接平均失效问题。理论上其交替最小化过程单调降低逐层合并目标，并给出量化客户端异构与非均匀 Fisher 影响的平稳性界。多个数据集实验显示，该方法在单轮与少轮联邦学习设置下均稳定优于对比基线。
正文 · AI 翻译
摘要：单轮和少轮联邦学习（FL）通过在一轮或少数几轮通信内构建全局模型来减轻通信负担，但性能往往低于传统的多轮 FL。由于缺乏频繁同步，客户端模型可能发生漂移，导致学习相似特征的神经元在不同客户端上占据不同位置。同时，本地数据异构性会导致相应参数对各客户端预测的重要性存在差异。这些问题共同导致直接平均会合并不匹配的神经元，并对重要性不同的参数赋予相同权重。我们提出 FedFiOT，一种面向单轮和少轮 FL 的 Fisher 加权最优传输框架，利用 Fisher 信息量化参数重要性并指导神经元对齐与模型聚合。FedFiOT 通过交替最小化一个共享的 Fisher 加权目标，联合优化神经元对应关系与全局模型参数。在理论上，我们证明 FedFiOT 的优化过程单调降低逐层合并目标，并建立了一个平稳性界，量化客户端异构性和非均匀 Fisher this http URL 的影响。在多个数据集上的实验表明，在单轮和少轮联邦学习设置下，FedFiOT 相比竞争基线均取得了一致提升。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2611.06783 [cs.LG] |
| （或 arXiv:2611.06783v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.06783 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Quan Nguyen [查看邮箱]
[v1]
2026年11月4日星期三 16:56:10 UTC（535 KB）
来源：arXiv cs.AI · arxiv.org