arXiv cs.AI· Zhe Dong (University of Maine at Presque Isle), Fang Qin (Stanford University), Manish Shah (Independent Researcher)·· 10 小时前AI 评分31
推理模型服务何时该用学习式早停?风险受控早退配置方法研究
When Does Learning to Stop Help? Configuring Risk-Controlled Early Exit for Reasoning-Model Services
AI 导读
一项新方法在校准数据上用 Learn-then-Test 对学习式停止规则与静态 token 预算两类早退方案做风险认证,并部署最便宜的合格候选。在 Qwen3 的自由形式数学任务上,5% 风险目标下学习式规则比静态预算多省 10.4-17.0 个百分点 token,准确率比完整推理低 2.4-2.9 点。在 vLLM 引擎搭配 Qwen3-8B 时,平均响应时间随生成 token 数成比例下降。
正文 · AI 翻译
作者:Zhe Dong(缅因大学普雷斯克岛分校),Fang Qin(斯坦福大学),Manish Shah(独立研究者)
摘要:提前退出通过在一个临时答案看起来已确定时停止推理,从而降低推理模型的服务成本。运维人员必须在学习型停止规则和一种静态 token 预算之间做出选择,而相对于完整推理的节省并不能决定这一选择。我们提出一种根据工作负载在校准数据上做决策的流程。它用 Learn-then-Test 对两个族进行认证,使其满足同一个界限:即完整推理能正确回答但提前退出不能正确回答的问题占全部问题的比例;它按服务栈的方式为临时答案定价,并部署最便宜的已认证候选方案。在四个模型和五个基准上,两个族并非始终有一个更好。在 5% 风险目标下,学习型规则在 Qwen3 的自由形式数学任务上比静态预算多节省 10.4-17.0 个百分点的 token,准确率比完整推理低 2.4-2.9 个百分点,而在 MMLU-Pro 上平均节省更少。哪个族成本更低也会随风险目标变化,在 15 个设置中有 8 个如此,并且会随临时答案的价格变化。在三种价格下,事先承诺使用一个族在某些工作负载上最多会损失 27.4 个百分点,而根据校准数据选择最多只比更好的族差 11.6 个百分点,且是在一个只有 99 个校准问题的任务上。在使用 Qwen3-8B 的 vLLM 引擎中,平均响应时间与生成的 token 数成比例下降。在与其校准任务不同的任务上部署的策略,在 44 个任务对中有 18 个超出了风险目标;在新任务上重新校准恢复了风险控制。
| 评论: | 49 页,11 幅图。代码:此 https URL |
| 主题: | 人工智能(cs.AI);计算与语言(cs.CL);机器学习(cs.LG) |
| ACM 分类: | I.2.6;I.2.7 |
| 引用为: | arXiv:2606.30852 [cs.AI] |
| (或 arXiv:2606.30852v3 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2606.30852 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Zhe Dong [查看邮箱]
[v1]
2026 年 6 月 29 日星期一 19:33:42 UTC(88 KB)
[v2]
2026 年 7 月 4 日星期六 03:36:21 UTC(99 KB)
[v3]
2026 年 11 月 18 日星期三 06:12:53 UTC(312 KB)
来源:arXiv cs.AI · arxiv.org