arXiv cs.AI· Yixuan Tong, Yuanguo Bi, Mingjian Zhi, Wenchao Xu, Yuan Wu·· 10 小时前AI 评分31
FedDoG:用服务端预训练扩散模型实现免训练域生成的一次性联邦学习
Training-Free Domain Generation for One-Shot Federated Learning with Server-Side Pre-trained Diffusion Models
AI 导读
FedDoG 是一个免训练的域生成框架,利用服务端预训练扩散模型为一次性联邦学习合成与客户端域对齐的数据。它用冻结图像编码器提取紧凑域表示,经预训练图像条件适配器注入扩散模型提供视觉引导,并按域集中度调整条件强度、依据类别一致性与预测熵过滤样本。在三个基准上,FedDoG 分类准确率优于现有 OSFL 基线,客户端上传量和计算时间分别降低 99.9% 和 91.5%。
正文 · AI 翻译
摘要:单轮联邦学习(OSFL)因能将客户端-服务器交互限制在单轮通信中,从而大幅降低通信开销,正受到越来越多的关注。然而,这种有限的交互使得从异构客户端分布中学习变得具有挑战性。基于扩散的 OSFL 方法试图通过合成近似客户端分布的数据来应对这一挑战。然而,现有的基于扩散的方法往往给客户端带来大量计算开销,并且缺乏有效的视觉引导来生成与客户端分布对齐的数据。为解决这些局限,我们提出 FedDoG,一个无需训练的域生成框架,利用服务器端预训练的扩散模型来合成与客户端域对齐的数据。FedDoG 使用冻结的图像编码器提取紧凑的域表示,大幅降低客户端计算和通信成本。这些表示通过预训练的图像条件适配器被纳入扩散模型,从而为域生成提供明确的视觉引导。为进一步提升合成数据的质量,FedDoG 根据域集中度调整视觉条件强度,并基于类别一致性和预测熵对生成样本进行过滤。在三个基准上的实验表明,FedDoG 生成的合成图像质量更高,在分类准确率上优于现有的 OSFL 基线。同时,FedDoG 将客户端上传量和计算时间分别降低 99.9% 和 91.5%。代码可在 此 https URL 获取。
| 主题: | 人工智能(cs.AI);计算机视觉与模式识别(cs.CV);分布式、并行与集群计算(cs.DC) |
| 引用为: | arXiv:2611.23908 [cs.AI] |
| (或 arXiv:2611.23908v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.23908 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Yixuan Tong [查看邮箱]
[v1]
2026年11月18日 星期三 05:59:45 UTC(1,848 KB)
来源:arXiv cs.AI · arxiv.org