arXiv cs.CL· Changming Li, Kaixing Zhang, Haoyun Xu, Yingdong Shi, Zheng Zhang, Kaitao Song, Kan Ren·· 11 小时前AI 评分30
从结果到表征：用 Integrated Policy Gradient 追踪 LLM 推理机制
From Outcome to Representation: Tracing Reasoning Mechanisms through Integrated Policy Gradient
AI 导读
研究者提出 Integrated Policy Gradient（IPG），一个无需训练的框架，将基于策略的归因引入 LLM 推理的机制可解释性。该方法把结果层面的不可微行为信号（如推理结果正确性）沿完整推理轨迹反传，借助路径积分在组件层面定位与结果相关的稀疏、集中的内部组件。论文已被 NeurIPS 2026 接收。
正文 · AI 翻译
摘要：大型语言模型（LLM）展现出卓越的推理能力，但驱动这些多步过程的内部机制仍不透明。现有的机制可解释性方法往往依赖表面的文本模式共现，或仅捕捉短期效应，难以追踪神经元或稀疏特征等内部组件在多步this http URL中长程的、结果驱动的影响。本文提出 Integrated Policy Gradient（IPG），一种新颖的免训练框架，将基于策略的归因引入 LLM 推理的机制可解释性。该框架以\textit{结果导向}和\textit{序列影响感知}为原则，通过整个推理轨迹反向传播结果层面的、不可微的行为信号（例如推理结果正确性），利用路径积分在组件层面分离与结果相关的介导因素，从而实现可靠归因。这为推理中的因果中介分析（CMA）提供了线性近似。实证评估表明，\method 实现了精确定位，并通过识别与特定推理行为相关的稀疏、集中的内部组件子集，揭示了机制性洞见。我们的方法还能调节推理能力，为理解 LLM 推理提供了一个强大而可靠的框架。项目页面见 this https URL 。
| 评论： | 已被 NeurIPS 2026 接收 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2602.02313 [cs.AI] |
| （或 arXiv:2602.02313v3 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2602.02313 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Changming Li [查看邮箱]
[v1]
2026 年 2 月 2 日星期一 16:43:09 UTC（1,099 KB）
[v2]
2026 年 2 月 3 日星期二 16:14:20 UTC（1,099 KB）
[v3]
2026 年 11 月 4 日星期三 11:19:09 UTC（1,658 KB）
来源：arXiv cs.CL · arxiv.org