跳到正文
arXiv cs.AI· Dong Han, Jin Zhang, Kunyue Yang·· 10 小时前AI 评分31

大语言模型"思考式学习"机制的认知映射框架

Cognitive Mapping of Learning by Thinking Mechanisms in Large Language Models

AI 导读

一篇理论框架论文提出 Cognitive LbT Framework,将反思推理、合成记忆形成、内部模拟与概念自组织四种机制映射到 LLM 的计算过程,并指出 chain-of-thought、self-consistency、Tree-of-Thoughts、Self-Instruct 等方法可在无额外标注样本下提升部分任务表现。

正文 · AI 翻译

查看 PDF

摘要:大型语言模型(LLM)日益展现出类似人类“通过思考学习”(Learning by Thinking,LbT)的能力,即无需新的外部输入,通过解释和推理等内部过程获得新洞见。关于这些能力背后认知机制及其局限的系统性论述仍不充分。本文提出一个认知 LbT 框架,将四种机制(反思性推理、合成记忆形成、内部模拟和概念自组织)映射到 LLM 中的计算过程。通过分析代表性方法,包括思维链提示、自洽性、自我反思、思维树搜索、Self-Instruct 和自学推理,本文认为部分方法可以在功能上近似这些机制的某些方面,并能在没有额外标注样本的情况下提升某些任务的性能,尽管这并不总能构成模型参数中的持久学习。例如,Self-Instruct 从 175 个种子任务生成了约 52,000 条指令,并报告在 Super-NaturalInstructions 上取得 33% 的绝对提升(Y. Wang et al., 2023)。这些机制也会产生典型失败,包括幻觉扩散、模型崩溃、概念漂移和高计算成本。这些失败并非孤立的技术缺陷,而是源于 LLM 与人类认知之间的四种结构性不对称:生成者与监控者的同一性、缺乏外部依据的封闭学习回路、符号性而非感觉运动性的模拟,以及推理时计算的成本。该框架提出了关于 LLM 中 LbT 何时应成功或失败的可检验命题,并为设计更可靠的自主学习系统提供了结构化基础。
评论: 理论框架论文;24 页,3 张表,1 幅图
主题: 人工智能(cs.AI)
引用为: arXiv:2611.14382 [cs.AI]
  (或 arXiv:2611.14382v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.14382

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Jin Zhang [查看邮箱]
[v1] 2026年11月10日星期二 17:37:13 UTC(473 KB)

来源:arXiv cs.AI · arxiv.org