跳到正文
arXiv cs.CL· Bin Zheng, Zheng Chen·· 3 天前AI 评分26

面向类型化决策模型的选择性推理:何时开始、读取与停止

Selective Reasoning for Typed Decision Models: When to Start, Read, and Stop

AI 导读

研究团队在冻结的 Qwen3.5-4B 主干上训练共享候选答案读取器,将直接决策与按需、可中断推理统一起来,通过收益门控启动推理、自然状态触发显式读取、熵规则接受答案并取消生成。

正文 · AI 翻译

查看 PDF

摘要:类型化决策模型需要一个能够在保留候选输出的同时利用额外推理的接口。我们在冻结的 Qwen3.5-4B 主干上训练一个共享的候选答案读取器,以统一直接决策与按需、可中断的推理。该读取器从空推理前缀和部分推理前缀返回分布。一个收益门控启动推理,一个自然状态触发器请求显式读取,一个熵规则接受已获取的答案并取消生成。测量区分了答案查询工作、生成输出和流水线时间。在来自 ProofWriter、LogiQA 2.0 和 ARC-Challenge 的 768 个问题上,准确率从直接读取的 70.96% 提升到 84.38%。相对于 512 token 的终端读取,准确率提高了 7.29 个百分点,平均输出工作增加了 2.25%。相对于 1,024 token 的终端读取,流水线时间下降了 46.30%,准确率差异为 -1.17 个百分点。精确前缀对照将节省与中断隔离开来,而读取调度对照则将减少的观察工作与更短的响应时间区分开来。
评论: 24 页,4 幅图。两位作者贡献相同。代码和评估材料:此 https URL
主题: 计算与语言(cs.CL)
引用为: arXiv:2610.19644 [cs.CL]
  (或 arXiv:2610.19644v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.19644

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Zheng Chen [查看电子邮件]
[v1] 2026 年 10 月 14 日星期三 06:13:42 UTC(303 KB)

来源:arXiv cs.CL · arxiv.org