arXiv cs.AI· Jiajun Zhu, Haobo Li, Zixin Chen, Huamin Qu, Wenshuo Zhang·· 11 小时前AI 评分20
LatBridge:潜空间通信多智能体系统中的高效稳定模型替换
LatBridge: Efficient and Stable Model Replacement in Latent-Communication Multi-Agent Systems
AI 导读
LatBridge 通过共享 Bridge 与独立接口组成的潜空间通信协议,实现多智能体系统在替换智能体模型后复用未变接口、匹配低秩接口并仅训练缺失部分,所有模型保持冻结。在八种小模型配置下,基础模式在 MATH 上平均准确率为 14.8%,在 ALFWorld 下一动作预测上为 27.3%。加速模式无需自回归生成即可构建目标输入。
正文 · AI 翻译
摘要:多智能体系统依赖通信来完成任务,而潜在通信传递连续表示以减少文本生成和重新编码。然而,多智能体系统必须重新配置智能体模型,而现有的潜在通信方法是为固定模型组合构建的,因此其接口在替换后可能失效。我们的初步研究证实了这种接口失效,并确定了模型替换后接口复用的需求。我们提出 LatBridge,它通过共享 Bridge 和独立接口在共享潜在通信协议下连接智能体模型。在智能体模型替换后,LatBridge 复用未更改的接口,选择匹配的低秩接口,并通过 Bridge 组合它们,仅训练缺失的接口,所有模型保持冻结。Bridge 在基本模式下处理源表示,并在加速模式下无需自回归生成即可构建目标输入。实验支持模型替换后的有效通信,在八种小模型配置下,基本模式在 MATH 上的平均准确率为 14.8%,在 ALFWorld 下一动作预测上的平均准确率为 27.3%。分析考察了支持任务准确性和通信效率的因素。
| 学科: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.27813 [cs.AI] |
| (或 arXiv:2610.27813v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.27813 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Jiajun Zhu [查看电子邮件]
[v1]
2026年10月20日星期二 08:06:13 UTC(725 KB)
来源:arXiv cs.AI · arxiv.org