arXiv cs.MA· Mirah Shi, Marcel Hussing, Ira Globus-Harris, Natalie Collina, Aaron Roth, Surbhi Goel·· 3 天前AI 评分31
多智能体协作中概率通信优于动作通信：LLM 智能体如何传递校准不确定性
Narrowing the Collaboration Gap, Probably
AI 导读
研究发现，LLM 智能体团队协作时，通信校准后的动作概率比仅通信动作更有效，因为两个智能体可能因不同原因偏好同一动作，仅传动作会丢失决策相关的不确定性。在合成多轮推理和协作迷宫任务中，概率通信在预测保持校准不确定性时优于动作通信，但概率有偏时优势消失。一种事后对话校准干预能持续纠正偏差，改善 toy transformer 和预训练 LLM 的决策表现。
正文 · AI 翻译
摘要：大语言模型越来越多地被部署为智能体团队，这些智能体掌握着关于同一任务的不同私有信息。此类智能体应如何简洁地沟通，以促进与决策相关信息的聚合？仅传达拟议动作可能会丢失与决策相关的不确定性：两个智能体可能出于不同原因而偏好同一动作。我们研究了一种替代接口，其中智能体就动作传达经过校准的信念。我们首先分析了一个简单的合成场景，该场景捕捉了部分信息下多轮推理的结构。在此场景中，我们从理论和实证两方面表明，传达无偏概率可以严格地比传达动作更强大。随后，我们在一个协作迷宫求解任务中，使用训练过的 transformer 和预训练 LLM 智能体测试了同一原则。我们的结果表明，当交换的预测保留了校准的不确定性时，概率沟通优于动作沟通。当传达的概率存在偏差时，我们表明概率沟通的优势可能会消失。我们提出了一种事后对话式校准干预，通过在玩具 transformer 场景中以及预训练 LLM 在上下文中使用校正时纠正这些偏差，持续改善决策。这些结果表明，概率沟通对多智能体协作有用，不仅仅是因为它传递了更多信息，还因为校准的不确定性为其他智能体提供了一个可靠的更新对象。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；多智能体系统（cs.MA） |
| 引用为： | arXiv:2610.19215 [cs.LG] |
| （或 arXiv:2610.19215v1 [cs.LG] 为此版本） | |
| https://doi.org/10.48550/arXiv.2610.19215 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Mirah Shi [查看邮箱]
[v1]
2026年10月13日星期二 21:27:48 UTC（1,032 KB）
来源：arXiv cs.MA · arxiv.org