arXiv cs.AI· Ayse Sila Okcu, Weisheng Wang, Tongmeng Xie, Niall Dalton, Angelos Nalmpantis, Raghu Arghal, Mario Giulianelli·· 3 天前AI 评分26
语言模型智能体的信念-行动鸿沟
The belief-action gap in language model agents
AI 导读
研究在文本网格世界中考察语言模型智能体的状态信念、行动价值与行动偏好如何相互作用，发现任务相关的状态与价值信息在表征层面往往比在行为中更可靠。推理过程中决策会在某个承诺点附近收敛，报告的不确定性也随之下降，但个体信念变化并不能一致解释行动偏好的转变。移植其他决策的推理前缀可影响强制行动，而推理窗口激活编辑对行动的控制有限，表明部分失败源于信息向行动的转化而非信息缺失。
正文 · AI 翻译
摘要：语言模型（LM）智能体可能因不同原因而失败，需要不同的解释和干预。我们研究在文本渲染的网格世界中，当 LM 智能体进行推理并做出决策时，状态信念、动作价值和动作偏好如何相互作用。我们使用基于报告和基于表示的探针来估计任务相关信念，并使用逆强化学习来估计动作价值。我们发现，任务相关的状态和价值信息通常比其在行为中反映出来的更可靠地被表示。在整个推理过程中跟踪动作偏好进一步表明，决策在承诺点附近变得明确，并且报告的信念不确定性在承诺附近降低，尽管单个信念变化并不能一致地解释动作偏好的转变。最后，当被移植时，强制动作会遵循来自其他决策的推理前缀，而所测试的推理窗口激活编辑对动作提供的控制有限。总之，这些结果表明，一些失败并非源于缺少任务相关信息，而是源于可用信息如何被转化为动作。我们的测量区分了信息可用性与信念-动作一致性，但本身并未识别出每种失败的原因。我们的代码可在以下网址获取：this https URL
| Comments: | 25 页，10 幅图；包含附录 |
| Subjects: | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL） |
| Cite as: | arXiv:2610.17444 [cs.LG] |
| （或 arXiv:2610.17444v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.17444 arXiv 颁发的 DOI 通过 DataCite（待注册） |
Submission history
来自：Weisheng Wang [查看电子邮件]
[v1]
2026 年 10 月 12 日星期一 22:04:36 UTC（1,146 KB）
来源：arXiv cs.AI · arxiv.org