arXiv cs.MA· Yara Zgheib, Marc Antonini, Roula Nassif·· 9 天前AI 评分17
去中心化协作持续学习：一种基于多目标最小化的技术
Decentralized collaborative continual learning: A multi-objective minimization-based technique
AI 导读
该研究将去中心化持续学习建模为多目标优化问题，智能体仅做本地计算并与邻居交换信息，通过本地记忆缓冲区存储旧任务样本，将历史信息纳入参数更新以缓解稳定性-可塑性困境。均方误差分析表明，智能体间协作能利用本地数据与记忆缓冲区的多样性，改善跨任务网络平均 MSD。仿真验证了该方法在减少遗忘和提升平均 MSD 上的有效性。
正文 · AI 翻译
摘要：在这项工作中，我们在多目标优化框架内制定了去中心化持续学习。对于给定的推理任务 t（对应于所有智能体的代价函数共享的公共极小值点），以分布式和流式方式收集数据的智能体只允许执行本地计算，并在底层通信图上与相邻智能体交换信息。随着任务随时间顺序演变，智能体必须适应新到达的任务，同时保留从先前学习的任务中获得的知识。这一要求导致了众所周知的稳定性-可塑性困境，其中稳定性指的是保留先前知识的能力，而可塑性指的是学习和适应新任务的能力。为了解决稳定性挑战，智能体将过去任务的样本子集存储在本地内存缓冲区中。然后，通过适当的多目标公式，将存储的信息纳入学习过程，使得参数更新同时考虑当前任务和先前学习的任务。在所提出的去中心化持续学习方法中，在关于个体代价函数和梯度噪声过程的一般假设下，从均方误差意义上进行了分析。分析表明，智能体之间的合作提高了持续学习的性能。特别是，通过与相邻智能体交换信息，去中心化协作学习可以利用本地观测数据和内存缓冲区的多样性，以提高跨任务的网络平均均方偏差（MSD）。最后，仿真验证了理论发现以及该方法在减少遗忘和提高跨任务平均 MSD 方面的有效性。
| 主题： | 多智能体系统 (cs.MA) |
| 引用为： | arXiv:2610.10882 [cs.MA] |
| （或 arXiv:2610.10882v1 [cs.MA] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.10882 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Yara Zgheib [查看电子邮件]
[v1]
2026年10月7日星期三 20:31:35 UTC（1,903 KB）
来源：arXiv cs.MA · arxiv.org