arXiv cs.AI· Tanmay Joshi, Shourya Aggarwal, Anusa Saha, Aadi Pandey, Shreyash Dhoot, Vighnesh Rai, Raxit Goswami, Aman Chadha, Vinija Jain, Amitava Das·· 3 天前AI 评分34
Stochastic CHAOS：为何确定性推理扼杀 AI 认知，分布可变性才是心跳
Stochastic CHAOS: Why Deterministic Inference Kills, and Distributional Variability Is the Heartbeat of Artifical Cognition
AI 导读
针对 Thinking Machines Lab 提出的确定性推理可提升可复现性的观点，该论文主张对 LLM 而言确定性推理会扼杀认知能力：它掩盖不确定性、抑制涌现能力、将推理坍缩为单一脆弱路径，并隐藏安全对齐的尾部风险。
正文 · AI 翻译
摘要：确定性推理是经典软件中一个令人安心的理想：同一程序在相同输入下应始终产生相同输出。随着大语言模型进入实际部署，这一理想被整体移植到了推理栈中。Thinking Machines Lab 最近的工作对 LLM 推理中的非确定性进行了详细分析，展示了批不变内核和确定性注意力如何能够强制实现逐位相同的输出，并将确定性推理定位为可复现性和企业可靠性的前提。
在本文中，我们持相反立场。我们认为，对于 LLM 而言，确定性推理会扼杀一切。它扼杀了对不确定性建模的能力，抑制了涌现能力，将推理坍缩为单一脆弱的路径，并通过隐藏尾部风险削弱了安全对齐。LLM 实现的是输出上的条件分布，而非固定函数。将这些分布坍缩为单一规范补全看似令人安心，但它系统性地掩盖了人工认知的核心属性。我们转而倡导随机 CHAOS，将分布变异性视为一种需要测量和控制的信号。
在实证上，我们表明确定性推理具有系统性的误导性。单样本确定性评估既低估了能力，也低估了脆弱性，掩盖了在复述和噪声下的失败概率。与涌现能力相关的类相变在贪婪解码下消失。多路径推理在被强制到确定性主干上时性能下降，降低了准确性和诊断洞察力。最后，确定性评估通过隐藏仅在多样本评估下出现的罕见但危险的行为，低估了安全风险。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2601.07239 [cs.AI] |
| （或此版本的 arXiv:2601.07239v2 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2601.07239 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Vinija Jain [查看电子邮件]
[v1]
2026年1月12日星期一 06:19:09 UTC（18,166 KB）
[v2]
2026年10月11日星期日 06:02:40 UTC（5,349 KB）
来源：arXiv cs.AI · arxiv.org