跳到正文
arXiv cs.CL· Xiaopeng Chu, Wenzheng Kong, Wei Liu, Wenyi Zhang·· 23 小时前AI 评分31

自适应推理的全账本反事实审计:FLCVA 揭示轻量控制器仅识别当前错误

A Full-Ledger Counterfactual Audit of Adaptive Reasoning

AI 导读

研究者提出全账本反事实价值审计(FLCVA),在同一答案流程下比较立即作答与四次定长续写并计入策略所用信号成本。在 GSM8K 和 MATH-500 上,随机 256-token 续写可挽回 Qwen3-8B 26.6%、DeepSeek-R1-Distill-Qwen-7B 18.9% 的错误答案,同时仅损害 1.4% 和 1.9% 的正确答案。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:自适应推理必须决定是立即作答还是投入更多算力。预测当前答案有误,并不能确定进一步推理是否会改进它。我们提出全账本反事实价值审计(FLCVA),它在同一作答流程下,将即时答案与来自同一冻结前缀的四段定长续写进行比较,并计入策略所用每个信号的成本。在 GSM8K 和 MATH-500 上,随机 256 token 续写能在 26.6% 的 Qwen3-8B 案例和 18.9% 的 DeepSeek-R1-Distill-Qwen-7B 案例中纠正错误答案,同时分别有 1.4% 和 1.9% 的正确答被破坏。来自独立采样续写的正确性标签,在两个主要模型中都能预测另一段续写的结果。在离线回放中,用这些标签分配算力可提升 DeepSeek 上的表现;Qwen3 上的增益仍不确定。在完整成本核算下,所测试的轻量、短视控制器主要只是识别当前错误,除此之外几乎不提供续写特有的价值。Llama-8B 复现以及动作/成本消融实验考察了这些发现的稳健性。FLCVA 将测量局部续写价值、从可观测信号预测该价值,以及利用这些预测分配计算区分开来。
评论: 已被 EACL 2027(主会议)接收
主题: 人工智能(cs.AI);计算与语言(cs.CL)
引用为: arXiv:2611.22778 [cs.AI]
  (或 arXiv:2611.22778v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.22778

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Xiaopeng Chu [查看邮箱]
[v1] 2026年11月17日星期二 13:44:33 UTC(1,619 KB)

来源:arXiv cs.CL · arxiv.org