arXiv cs.AI· Tanush Kalhan, Anupam Chattopadhyay, Sriram Ranga, Amritendu Mukherjee·· 2 天前AI 评分29
思维密度：预测与引导大语言模型的推理
The Density of Thought: Predicting and Steering Reasoning in Large Language Models
AI 导读
研究通过 LP variance 和 Caveman 压缩比两项指标衡量 CoT 各推理步骤的信息密度，发现较低 LP variance 可预测 SFT 模型答案正确性，但该关系随规模减弱并在 RL 蒸馏模型中反转。
正文 · AI 翻译
摘要：我们研究思维链（CoT）推理步骤间信息密度的变化是否能预测答案正确性，并可作为推理时可控制的目标。我们提示冻结的预训练模型通过 CoT 解决问题，并用两个独立指标衡量每个推理步骤的密度：LP 方差（信息在各步骤间分布的不均匀程度，以每 token 平均负对数似然的方差计算）和 Caveman 压缩比。随后我们检验密度是否与答案正确性相关，以及能否通过引导密度来提升正确性。跨六种模型规模、两种训练范式和 60 道 GSM8K 问题的实验得出四个主要发现。第一，较低的 LP 方差能预测监督微调（SFT）模型的正确性，但这种关系随规模增大而减弱，并在强化学习（RL）蒸馏模型中反转。因此，训练范式在决定密度行为方面似乎比模型规模更具影响力。第二，合成实验揭示了一种内在的复杂度偏好：在均匀分布数据上训练的模型学习偏好复杂度的分布时，准确率比学习偏好简单度的分布高 2.0 至 2.6 倍。第三，直接的推理时密度引导将准确率从 60.0% 降至 8.3%，表明自然密度模式对推理具有重要功能作用。第四，生成前引导结合提示注入与对比式 KV 缓存引导，将准确率提升 13.3 个百分点，且在两个指标上均一致。最后，我们提出熵门控密度路由（EGDR），一种自监督方法，使用 token 级香农熵在生成过程中门控按比例的 KV 缓存调整，在无任何外部引导的情况下将准确率提升 10.0 个百分点。
| 评论： | 9 页，7 张表，2 幅图 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.21286 [cs.AI] |
| （或 arXiv:2610.21286v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21286 arXiv 颁发的 DOI 经由 DataCite（待注册） |
提交历史
来自：Anupam Chattopadhyay [查看邮箱]
[v1]
2026 年 10 月 15 日星期四 05:31:46 UTC（438 KB）
来源：arXiv cs.AI · arxiv.org