arXiv cs.CL· Yancheng Zhu, Yifan Yuan·· 12 小时前AI 评分52
论文提出 State Integrity Collapse：LLM 长对话中记住约束却不再执行
When LLMs Forget What They Believe: Characterizing State Integrity Collapse in Long-Horizon Dialogues
AI 导读
论文研究长对话中 LLM 能复述指令却不再遵守的现象，将其定义为 State Integrity Collapse，并发布覆盖数值、格式、角色、事实记忆和逻辑规则约束的 StateTrack-Bench。
正文 · AI 翻译
摘要：大型语言模型可以复述一条指令，却无法持续遵守它。我们在长程对话中研究这种回忆与合规的分离现象，并将其定义为状态完整性崩溃：模型在记忆中保留了已陈述的约束，却不再将其应用于后续轮次。我们推出了 StateTrack-Bench，这是一套受控的对话测试集，涵盖数值、格式、角色/人设、事实记忆和逻辑规则约束。在七个固定供应商的模型快照和五个对话深度探针上，严格的联合保持率从 62.4% 到 100.0% 不等，退化集中在符号约束以及一个特别脆弱的模型上。一项分叉回忆审计显示，观察到的失败中有 88.6% 属于行为漂移失败，而非普通的遗忘；排除那个脆弱的异常值后，这一诊断依然成立（84.4% 的失败）。在深度高达 50 轮的扩展评估中确认，这种分离现象在核心基准之外依然存在，而结构化状态锚定在不可变约束上最多可恢复 24.4 分。结果表明，可靠性不能仅从单轮指令遵循中推断；评估必须追踪随着对话状态增长，被记住的约束是否仍然有效。代码和工件可在以下地址获取：此 https URL。
| 评论： | 已被 EMNLP 2026 主会议接收。含附录共 17 页 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.31314 [cs.CL] |
| （或 arXiv:2610.31314v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.31314 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yancheng Zhu [查看电子邮件]
[v1]
2026 年 10 月 22 日星期四 14:08:48 UTC（1,732 KB）
来源：arXiv cs.CL · arxiv.org