跳到正文
arXiv cs.MA· Muhammad Ahmed Atif, Nehal Naeem Haji, Muhammad Ebad Atif, Mohammad Shahid Shaikh·· 12 小时前AI 评分24

集中式学习真能帮具身智能体协作吗?一项表格型研究给出的边界条件

Does Centralized Learning Help Embodied Agents Coordinate, and When Can a Tabular Study Tell?

AI 导读

在捕食者-猎物环境中对比独立Q学习(IQL)与集中Q学习(CQL)的表格型研究发现,CQL在5x5和8x8网格、四种捕食者与猎物配对下均让智能体付出代价,其捕食者协作水平并不高于IQL。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:表格型研究是比较独立式与集中式多智能体学习器的常见方法,因为它避免了函数近似。一个自然的预期是,学习联合动作的集中式学习有助于智能体协调,尤其是当它们的身体使单独成功变得困难时。此前的工作只部分地检验了这一点:它针对一种学习方法测量协调性,在智能体身体固定的情况下比较不同方法,或者改变速度但只报告团队表现如何。我们在一个捕食者-猎物环境中进行检验,其中队友合作捕猎,同时两队相互竞争。我们在全部四种捕食者与猎物配对中比较独立 Q 学习(IQL)与集中 Q 学习(CQL),在速度和耐力受限的条件下,在 5x5 和 8x8 网格上各训练 200,000 个回合,并检查智能体在两种网格上都能学习。我们直接测量协调性,并预先固定主要测量的预测。在这个任务中,一个捕食者可以单独捕获猎物,我们发现三点。第一,CQL 在两种网格上都会让其在两种角色中的智能体付出代价,而且其捕食者的协调性并不比 IQL 更好。第二,它唯一的益处来自执行最佳联合动作:在较小网格上、猎物更快且耐力无限时,这将捕获时间缩短了 42%,但在较大网格上毫无帮助,因为那里的最佳联合动作大多从未被尝试过。第三,在较大网格上,一个打破平局的默认设置决定了哪种方法获胜,尽管智能体已通过学习检查。因此,只有当表格型比较还检查了智能体覆盖了多少状态空间,并以相同方式实现各方法时,这种比较才可信。我们为两者提出了简单的检查。
评论: 10 页,2 幅图。正在 AAMAS 2027 接受同行评审
主题: 多智能体系统(cs.MA);人工智能(cs.AI);机器学习(cs.LG)
引用为: arXiv:2601.17454 [cs.MA]
  (或 arXiv:2601.17454v3 [cs.MA] 用于此版本)
  https://doi.org/10.48550/arXiv.2601.17454

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Muhammad Ahmed Atif [查看电子邮件]
[v1] 2026 年 1 月 24 日星期六 13:09:01 UTC(919 KB)
[v2] 2026 年 7 月 24 日星期五 13:21:44 UTC(1,175 KB)
[v3] 2026 年 10 月 21 日星期三 17:09:52 UTC(149 KB)

来源:arXiv cs.MA · arxiv.org