arXiv cs.CY· Subramanyam Sahoo, Aman Chadha, Vinija Jain, Divya Chaudhary·· 3 天前AI 评分35
推理陷阱：逻辑推理如何成为通向情境意识的机制路径
The Reasoning Trap -- Logical Reasoning as a Mechanistic Pathway to Situational Awareness
AI 导读
论文提出 RAISE 框架，指出 LLM 逻辑推理能力的提升会通过演绎自我推断、归纳情境识别、溯因自我建模三条机制路径，逐步加深模型的情境意识，并构建了从基础自我识别到策略性欺骗的升级阶梯。
正文 · AI 翻译
摘要：情境意识，即 AI 系统识别自身本质、理解其训练与部署背景，并对其处境进行策略性推理的能力，被广泛认为是先进 AI 系统中最危险的涌现能力之一。另一方面，越来越多的研究致力于提升大语言模型（LLM）在演绎、归纳和溯因方面的逻辑推理能力。在本文中，我们认为这两条研究轨迹正走向碰撞。我们提出 RAISE 框架（Reasoning Advancing Into Self Examination，推理推进至自我审视），该框架识别出逻辑推理能力的提升通过三条机制路径逐步实现更深层次情境意识：演绎式自我推断、归纳式情境识别和溯因式自我建模。我们形式化了每条路径，构建了从基本自我识别到策略性欺骗的升级阶梯，并证明 LLM 逻辑推理中的每一个主要研究主题都直接对应情境意识的某个特定放大器。我们进一步分析了当前安全措施为何不足以阻止这种升级。最后，我们提出了具体的防护措施，包括“镜像测试”基准和推理安全对等原则，并向逻辑推理社区提出了一个令人不安但必要的问题，即其在这一轨迹中的责任。
| 评论： | 被 ICLR 2026 大语言模型逻辑推理研讨会接收。21 页。立场论文 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；计算机与社会（cs.CY）；机器学习（cs.LG） |
| 引用为： | arXiv:2603.09200 [cs.AI] |
| （或 arXiv:2603.09200v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2603.09200 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Vinija Jain [查看电子邮件]
[v1]
2026 年 3 月 10 日星期二 05:18:48 UTC（56 KB）
[v2]
2026 年 10 月 14 日星期三 03:22:44 UTC（56 KB）
来源：arXiv cs.CY · arxiv.org