arXiv cs.CL· Ji Ho Bae·· 3 天前AI 评分32
语言模型为何把未解的循环真值依赖误判为矛盾：Phantom Paradoxes 研究
Phantom Paradoxes: Language Models Treat Unresolved Circular Truth Dependence as Contradiction
AI 导读
研究发现语言模型并非难以处理自指本身，而是难以处理真值沿引用传播无法在有限步内确定的结构。在循环真值依赖但存在唯一一致赋值的问题上，来自三个家族的四个开源模型回答 INCONSISTENT 的比例比对应的无循环版本平均高 31.0 个百分点，比约束版本高 36.4 个百分点，比困惑度匹配的对照组高 37.1 个百分点。
正文 · AI 翻译
摘要：语言模型是难以处理自指本身，还是难以处理那些沿引用传播真值无法在有限步内确定取值的结构？我们的结果支持后者。在我们的主要测试中，各陈述在一个循环中相互指涉彼此的真值，但恰好存在一个一致的赋值。局部传播永远无法确定所查询的值，而穷举搜索能找到它，因此 INCONSISTENT（无不一致赋值）总是错误的。我们把这种对可满足问题的误读称为幻影悖论。每个循环问题都有一个接地孪生问题，答案相同但没有循环。为排除逻辑难度和不熟悉的措辞，我们加入了约束孪生（不含真值谈论的等价公式）和困惑度匹配的接地对照。在任何确认响应之前就固定的验证性行为测试中，来自三个家族的四个开放模型在循环问题上回答 INCONSISTENT 的平均比例比接地孪生高 31.0 个百分点，比约束孪生高 36.4 个百分点，比困惑度匹配对照高 37.1 个百分点。在每个模型中，经无关算术拟合验证的逐层真值方向，在接地孪生的问题最后一个 token 处恢复了所查询的值，但在循环问题上没有。约束孪生同样未被恢复，却远少地引出 INCONSISTENT，因此起作用的是循环真值依赖，而不仅仅是未被恢复的值。在一个小型自然语言库中，能在有限步内确定的自指比具有相同经典解的未确定自指引出 INCONSISTENT 的比例低 23.4 个百分点。汇总测试未显示出预测的晚层修正或注意力扩散。总体而言，模型将未解决的循环真值依赖视为矛盾。我们将发布所有提示、输出和隐藏状态。
| 评论： | v2：重大修订，新标题和一项验证性研究。从 v1 撤回：注意力有效秩特征和架构不变性主张。先前标题：When Self-Reference Fails to Close: Matrix-Level Dynamics in Large Language Models。19 页，2 图，8 表 |
| 主题： | 计算与语言（cs.CL） |
| ACM 分类： | I.2.7 |
| 引用为： | arXiv:2604.12128 [cs.CL] |
| （或 arXiv:2604.12128v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2604.12128 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Ji Ho Bae [查看电子邮件]
[v1]
2026 年 4 月 13 日星期一 23:23:02 UTC（958 KB）
[v2]
2026 年 10 月 14 日星期三 01:32:05 UTC（84 KB）
来源：arXiv cs.CL · arxiv.org