跳到正文
arXiv·· 12 天前AI 评分29

COMPASS:在语言模型中定位推理能力所在

COMPASS: Finding Where Reasoning Lives in Language Models

AI 导读

研究发现,用模型自身直接作答的正确性作为信号,即可得到一个能激发推理的潜在方向,无需预定义推理特征或 CoT 提示设计。该方向可从多数注意力头的激活中解码,但仅少数注意力头能有效利用它来提升推理表现。

来源:arXiv · arxiv.org