跳到正文
arXiv cs.MA· Drashthi Doshi, Avishek Ghosh, Swaprava Nath·· 3 天前AI 评分17

激励数据贡献与模型学习兼得:面向策略性数据所有者的联邦学习机制

Incentivize Contribution and Learn Parameters Too: Federated Learning with Strategic Data Owners

AI 导读

研究提出 UPBReD、2P-UPBReD 和 T-2P-UPBReD 三种联邦学习机制,在训练模型的同时激励客户端贡献数据。2P-UPBReD 通过预算平衡转移使完全贡献成为占优策略,训练收敛至最优模型;T-2P-UPBReD 进一步核验贡献报告与梯度报告,实现真实报告且不产生赤字。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:在联邦学习(FL)中,中心利用客户端在其私有数据上计算出的更新来训练一个共享模型。收集数据并基于数据进行训练是有成本的,因此一个策略性客户端可能只贡献很少的数据,并搭便车享用其他客户端训练出的模型。我们研究能够同时激励数据贡献并学习模型的机制。我们的第一个机制 UPBReD 联合更新客户端的贡献和模型,并以几何速率收敛到贡献博弈的纳什均衡,同时收敛到针对这些贡献的福利最大化模型。该均衡可能涉及贡献不足,因此我们的第二个机制 2P-UPBReD 加入了预算平衡转移,使完全贡献成为占优策略,此后训练收敛到最优模型;我们还给出了每个客户端都更愿意参与的条件。这两种机制都信任客户端所报告的其使用的数据和计算的梯度。我们证明,除非中心观察到的某些东西依赖于实际使用的数据,否则任何支付规则都无法奖励不可验证的贡献。基于此,T-2P-UPBReD 将每个客户端报告的贡献与其他客户端对所训练模型的实际估值进行核对,并以预算平衡的收费对梯度报告定价。它能够引出真实的贡献报告,使梯度报告近似真实,仍能达到完全贡献和最优模型,并且从不出现赤字。在 CIFAR-10、FEMNIST 和 Twitter 上的实验表明,2P-UPBReD 的福利与在所有数据上训练的 FedAvg 相当,而没有激励的策略性客户端会降低所学模型的福利。
评论: 52 页,审稿中
主题: 计算机科学与博弈论(cs.GT);机器学习(cs.LG);多智能体系统(cs.MA)
引用为: arXiv:2505.12010 [cs.GT]
  (或 arXiv:2505.12010v5 [cs.GT] 用于此版本)
  https://doi.org/10.48550/arXiv.2505.12010

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Swaprava Nath [查看电子邮件]
[v1] 2025年5月17日星期六 14:04:20 UTC(141 KB)
[v2] 2025年6月19日星期四 14:06:03 UTC(140 KB)
[v3] 2025年10月13日星期一 10:24:17 UTC(151 KB)
[v4] 2026年3月16日星期一 01:56:51 UTC(197 KB)
[v5] 2026年10月14日星期三 09:30:50 UTC(247 KB)

来源:arXiv cs.MA · arxiv.org