arXiv cs.AI· Alexander Gr\"afe, Max van Gemmeren, Paul Brunzema, Sebastian Trimpe·· 1 天前AI 评分24
GLOBAFED：用神经网络代理实现联邦贝叶斯优化中的高效知识迁移
Efficient Knowledge Transfer in Federated Bayesian Optimization through Neural Network Surrogates
AI 导读
GLOBAFED 框架通过带共享特征提取主干和智能体专属头的概率神经网络代理，在联邦贝叶斯优化中实现不同但相关目标间的知识迁移，无需暴露原始数据。智能体在共享主干上做联邦学习构建共同潜在特征表示，专属头适配各自目标，并借助变分贝叶斯末层给出不确定性估计。实验显示其收敛速度和最终性能均优于现有 FedBO 基线，还能用已学到的全局特征热启动优化。
正文 · AI 翻译
摘要：联邦贝叶斯优化（FedBO）已成为一种强大的范式，用于在分布式、隐私敏感的场景中增强贝叶斯优化（BO），使智能体能够通过共享关于彼此相似性的知识而不暴露原始数据，从而加速其本地目标的优化。然而，现有方法依赖于限制性假设，例如目标函数几乎相同或共享高斯过程超参数，而这些假设在异构的现实应用中往往不成立。我们提出 GLOBAFED，这是一个新颖的框架，能够在不损害隐私的情况下，在不同但相关的目标之间实现高效的知识迁移。其核心是一个概率神经网络代理模型，具有共享的特征提取主干和智能体特定的头部，这些头部配备了变分贝叶斯最后层以提供不确定性估计。在优化过程中，智能体在共享主干上使用联邦学习来协作构建共同的潜在特征表示，而智能体特定的头部则适应各自的个体目标。我们的实证结果表明，与最先进的 FedBO 基线相比，GLOBAFED 显著加速了收敛并达到更好的最终性能，并使智能体能够从先前学到的全局特征中热启动其优化。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2611.15707 [cs.LG] |
| （或 arXiv:2611.15707v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.15707 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Alexander Gräfe [查看电子邮件]
[v1]
2026年11月11日星期三 16:48:55 UTC（1,429 KB）
来源：arXiv cs.AI · arxiv.org