arXiv cs.CL· Lihu Chen, Xiang Yin, Francesca Toni·· 10 小时前AI 评分34
Latent Debate：解读 LLM 二元决策内部思考过程的替代框架
Latent Debate: A Surrogate Framework for Interpreting LLM Thinking towards Binary Decisions
AI 导读
研究者提出 latent debate，一种与模型和任务无关的结构化替代框架，通过内部潜在论点及其交互来解读 LLM 在 True/False 预测任务上的输出。该框架与原始 LLM 的预测高度一致，并提供可解释性，同时可作为幻觉检测的强基线——latent debate 替代模型中间层的高分歧程度与更高的幻觉风险相关。
正文 · AI 翻译
摘要：理解大语言模型（LLM）的内部“思考”过程，以及%这与其幻觉之间的联系，仍然是一项关键挑战。为此，我们引入了 \emph{潜在辩论}，这是一个结构化的替代框架，通过内部潜在论点及其相互作用的视角，来解释模型在真/假预测任务上的输出。与人类辩论不同，潜在辩论捕捉的是模型在单次推理过程中出现的隐藏支持和攻击信号。我们首先提出了一个与模型和任务无关的概念框架，然后将其符号化实例化，以近似 LLM 面向二元决策的思考过程。实证研究表明，我们的潜在辩论是一个忠实的结构化替代模型，其预测与原始 LLM 高度一致，同时提供了一种可解释性。我们还证明，我们的潜在辩论为幻觉检测提供了强有力的基线。具体而言，我们发现了辩论模式与幻觉之间的强相关性，例如潜在辩论替代模型中间层的高度分歧与更高的幻觉风险相关。我们的发现表明，潜在辩论为理解 LLM 的内部过程提供了一个新框架。
| 评论： | NeurIPS 2026 |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2512.01909 [cs.CL] |
| （或 arXiv:2512.01909v3 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2512.01909 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Lihu Chen [查看邮箱]
[v1]
2025年12月1日星期一 17:27:31 UTC（1,138 KB）
[v2]
2026年2月1日星期日 18:48:43 UTC（905 KB）
[v3]
2026年10月30日星期五 19:31:34 UTC（896 KB）
来源：arXiv cs.CL · arxiv.org