arXiv cs.AI· Federico Lucchetti, Marcus V\"olp·· 13 小时前AI 评分22
CovFedAvg：本地低损失曲线与联邦模型选择
CovFedAvg: Local Low-Loss Curves and Federated Model Selection
AI 导读
CovFedAvg 提出一种联邦模型选择方法：客户端保留本地模型与曲线控制，通过聚合梯度贡献拟合共同端点，并用分布式训练损失选出实际候选模型，无需集中校准样本或客户端间交换数据。
正文 · AI 翻译
摘要：观察预测任务不同部分的客户端可能学到局部等价的模型，但在其观测支持集之外行为不兼容。我们研究冗余模型是否允许存在通往兼容共享模型的局部低损失路径。CovFedAvg 在客户端保留局部模型和曲线控制，通过聚合梯度贡献拟合共同端点，并使用分布式训练损失选择实际候选模型。不需要集中式校准样本或客户端之间的样本交换。精确选择保证评估训练损失不高于先前模型和当前轮 FedAvg 候选；这不是全局最优性、平稳性、泛化或差分隐私保证。我们陈述条件性客户端兼容性和近似选择界，并为参考算法保留修正的变换恒等式和单独的全梯度保障定理。一个互补的输入支持示例恢复了共享绝对值回归，而匹配的直接微调也能解决它。在合成支持任务、记录的活动识别受试者以及参与和未来气体传感器批次上，我们在无校准数据的情况下评估五种方法、五个种子、两种网络宽度和 20 轮。在宽度 16 时，CovFedAvg 将参与 Gas 宏平衡准确率从 FedAvg 的 88.88% 提高到 89.84%；匹配的分布式微调达到 91.65%。结果支持可行性以及相对于 FedAvg 的适度增益，但未确立相对于同等成本优化的曲线特定优势。精确和数值实验确立了数据流；端到端隐私需要额外机制和分析。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.39902 [cs.LG] |
| （或 arXiv:2610.39902v1 [cs.LG] 为此版本） | |
| https://doi.org/10.48550/arXiv.2610.39902 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Federico Lucchetti [查看电子邮件]
[v1]
2026年10月29日星期四 12:12:55 UTC（575 KB）
来源：arXiv cs.AI · arxiv.org