arXiv cs.AI· Xinyuan Song, Zekun Cai·· 1 天前AI 评分39
研究揭示长程语言智能体的“世界模型崩溃”相变现象
World-Model Collapse as a Phase Transition
AI 导读
一项 arXiv 研究将长程语言智能体的世界模型失效建模为相变:在确定性任务族上对状态规模、状态依赖、任务步数、可用动作数、观测模式与状态变化频率做大范围网格搜索,得到低压力成功区、急剧下降的窄临界区和高压力失败区三区相图。逐步轨迹显示智能体在动作失效前就已丢失真实世界状态,即从被污染的世界表征中行动,而非单纯选错动作。更强模型只是更晚触及临界边界,并未消除这一突变。
正文 · AI 翻译
摘要:水在升温时看起来没有变化,然后在临界点沸腾。我们研究长时程语言智能体在维持对不断演变的世界状态的准确表征这一能力上,是否表现出类似的转变。在某些参数设置下,任务参数的微小变化,或给任务增加一步,几乎不会改变行为;而在临界边界附近,同样的微小变化会导致突然崩溃。我们在一个确定性任务族中研究这一效应,其中每一步的真实世界状态都是已知的。对状态大小、状态依赖性、时程、可用动作数量、观察模式以及状态变化频率进行大规模网格搜索,揭示出一张相图:一个智能体持续成功的低压力区域、一个成功率急剧下降的狭窄区域,以及一个智能体持续失败的高压力区域。逐步追踪显示了其机制:智能体在其动作变得无效之前就失去了对真实世界的跟踪,因此智能体并非只是选择了一个糟糕的动作;它是在从一个已被污染的世界出发行动。更强的模型更晚到达临界边界,但并未消除这种急剧转变。这些结果使世界模型崩溃成为长时程智能体一个可测量的瓶颈。代码将很快公开。
| 评论: | 审稿中 |
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2606.31399 [cs.AI] |
| (或 arXiv:2606.31399v3 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2606.31399 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Zekun Cai [查看电子邮件]
[v1]
2026年6月30日星期二 09:28:01 UTC(8,056 KB)
[v2]
2026年7月4日星期六 03:39:38 UTC(6,547 KB)
[v3]
2026年11月12日星期四 09:17:23 UTC(4,454 KB)
来源:arXiv cs.AI · arxiv.org