arXiv cs.CL· David Reber, James Reber, Ari Holtzman, Victor Veitch·· 2 天前AI 评分31
LLM 能否预判自身决策的关键分歧点？
Can LLMs Anticipate Their Cruxes?
AI 导读
研究提出用"关键分歧点"（crux）刻画 LLM 决策依据，即模型多次 rollout 之间产生分歧、改变其取值可能改变结论的子问题。作者比较三种成本递增的策略：直接让模型先验预判、单次生成后提取、以及多次生成对比提取，后者借助 reranker 实现，算力约为 judge 的 1/86。
正文 · AI 翻译
摘要：要利用语言模型帮助我们做决策，我们希望理解语言模型输出背后的理由。原则上，语言模型会在其文本输出中给出理由。然而，文本量之大使得这在实践中难以使用。在本文中，我们关注的是提取导致模型推荐某一行动而非另一行动的关键点。我们将关键点视为模型多次采样结果存在分歧的子问题，改变其取值可能会改变结论。因此，关键点是模型采样结果分布的一种属性，而非任何单次采样结果的属性。我们考虑了三种计算成本递增的策略。第一，我们直接让模型先验地识别一项决策的关键点会是什么。第二，我们让模型实际经历生成回复的过程，然后提取其推理中出现的关键点。最后，我们生成大量回复，并通过比较各次采样结果的推理来提取关键点。我们通过廉价调用重排序器使最后这一过程在计算上可行，估计其计算量比评判器少约 86 倍。随后我们进行了广泛的实证评估，以判断这些计算成本低廉的方案是否足够。它们并不足够。跨领域和模型，我们发现模型对关键点的先验评估与实际事后被识别为重要的因素几乎没有关系。使用单次采样结果有所帮助，但仍不足以识别出完整的关键点集合。因此，对于高风险决策（以及理解语言模型决策的空间），多次采样的过程是不可避免的。
| 学科： | 计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.21006 [cs.CL] |
| （或 arXiv:2610.21006v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21006 arXiv 颁发的 DOI 经由 DataCite（待注册） |
提交历史
来自：David Reber [查看邮箱]
[v1]
2026年10月14日星期三 23:00:12 UTC（1,203 KB）
来源：arXiv cs.CL · arxiv.org