arXiv cs.CL· Wooseong Yang, Wei-Chieh Huang, Weizhi Zhang, Yu Wang, Philip S. Yu, Junhyun Lee·· 11 小时前AI 评分39
XBridge：面向异构 LLM 通信的实体锚定潜在桥接方案
XBridge: Entity-Grounded Latent Bridge for Heterogeneous LLM Communication
AI 导读
XBridge 是一种免解码通信协议，通过词法锚定映射（LAM）和潜在增强桥（LEB）解决跨架构 LLM 通信中的实体锚定问题。在 Llama、Qwen、Mistral 三个模型族、七个基准和双向通信上，XBridge 全部七项任务均优于文本通信，延迟降低 11 倍。LEB 仅需 264M 可训练参数（占接收方 3.8%），推理开销可忽略，该工作已被 NeurIPS 2026 接收。
正文 · AI 翻译
摘要：异构多智能体 LLM 系统中，各智能体由不同的模型系列驱动，可通过减少冗余推理模式而优于同构配置。然而，现有通信协议要么通过文本进行，丢弃发送方的内部表示，要么要求架构同构才能进行潜在层级的传递。我们识别出跨架构通信中的实体接地问题：在不同 LLM 系列之间传递连续表示的交叉注意力桥接会遭受稀有 token 压缩坍缩，实体身份在连续瓶颈中丢失（仅桥接 F1 约 30%）。我们提出 XBRIDGE，一种免解码的通信协议，通过两种机制解决该问题。词汇锚点映射（LAM）将发送方的原始上下文 token 映射到接收方的词表，提供离散的实体锚点。潜在增强桥接（LEB）让接收方查询发送方的隐藏状态以进行上下文增强。实体锚点通过接收方自身的自注意力将桥接的上下文信号接地到特定实体。在三个模型系列（Llama、Qwen 和 Mistral）、七个基准以及两个通信方向上，XBRIDGE 在每个模型对的全部七个任务上均优于基于文本的通信，同时实现 11 倍更低的延迟；在同构架构设置下，它也在七个任务中的六个上超过了 KV 共享基线。LEB 仅需 264M 可训练参数（占接收方的 3.8%），在小型平衡样本集上训练，且增加的推理开销可忽略不计。
| 评论： | 已被 NeurIPS 2026 接收。18 页，4 幅图 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2608.11676 [cs.AI] |
| （或本版本使用 arXiv:2608.11676v2 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2608.11676 由 DataCite 颁发 arXiv DOI |
提交历史
来自：Wooseong Yang [查看邮箱]
[v1]
2026 年 8 月 12 日星期三 05:32:33 UTC（211 KB）
[v2]
2026 年 9 月 28 日星期一 18:59:45 UTC（196 KB）
来源：arXiv cs.CL · arxiv.org