CauTrace：揭示 LLM 推理失败根源的白盒诊断框架

Uncovering Why LLMs Fail: From Internal Mechanisms to Adversarial Reasoning Trajectories

AI 导读

中科院计算所等团队提出白盒诊断框架 CauTrace，从功能状态、表征传播、时序状态协调与推理轨迹三个维度剖析 LLM 失败成因。在 Qwen 与 LLaMA 系列模型上，失败轨迹表现出支持状态更新时 Attention-MLP 一致性更弱、验证活动相对承诺更少，具体表征特征与时序偏移因架构而异。留出修复与引导实验显示，对齐引导能产生预测方向上的过程指标变化。

正文 · AI 翻译

作者：Zirui Ding (1,2)、Xinxin Fan (2,3)、Hao Yuan (1,4)、Shaoye Luo (2,3)、Men Niu (1,2)、Yunfeng Lu (5)（(1) 中国科学院计算技术研究所，(2) 中国科学院大学，(3) 中国科学院计算技术研究所人工智能安全国家重点实验室，(4) 上海科技大学，(5) 北京航空航天大学）

查看 PDF HTML（实验性）

摘要：大语言模型（LLM）通常以最终输出的正确性或安全性来评估，但端点标签无法揭示失败在整个推理过程中是如何发展的。因此，我们提出：普通推理失败与对抗性诱导的失败能否用同一套内部坐标来刻画？为此，本文研究了一个白盒诊断框架 CauTrace，从三项基本检查揭示 LLM 失败的根因：功能状态、表征传播、时序状态协调与推理轨迹。首先，创造性地定义了七种功能状态，用以表示 LLM 中的支持与约束处理。其次，表征变化的传播度量七种状态之间的变化如何在后续 Transformer 块中持续。第三，时序状态协调与轨迹拓扑刻画承诺与验证相对于支持发生的时间，以及主导状态序列在整个推理过程中如何演化。最后，我们在干净的推理失败与配对的对抗扰动上评估 CauTrace。在 Qwen 和 LLaMA 系列模型上，失败轨迹在支持状态更新上表现出较弱的 Attention-MLP 一致性，且相对于承诺的验证活动更少，而精确的表征级特征与时序偏移因架构而异。留出修复与引导测试展示了与我们的主张在某些模型和特定设置下一致的操作信号，对齐引导在过程度量中产生了预测的方向性变化。总体而言，CauTrace 提供了一个统一的诊断框架，通过支持、承诺与验证的变化分析失败动态，这将为 LLM 安全的深入研究提供启示。

主题：	人工智能（cs.AI）
引用为：	arXiv:2610.37369 [cs.AI]
	（或 arXiv:2610.37369v1 [cs.AI] 查看此版本）
	https://doi.org/10.48550/arXiv.2610.37369 由 DataCite 颁发的 arXiv DOI（待注册）

提交历史

来自：Zirui Ding [查看邮箱]
[v1] 2026年10月27日星期二 15:02:04 UTC（1,719 KB）

来源：arXiv cs.AI · arxiv.org