arXiv cs.CL· JunHyeok Oh, Byung-Jun Lee·· 11 小时前AI 评分38
StreamStop：为语言模型智能体实现流式推理的自适应停止
Adaptive Stopping of Streamed Reasoning for Language Model Agents
AI 导读
StreamStop 通过离线学习模型特定的停止策略，从前缀级动作一致性判断何时停止推理，无需访问推理模型内部信号。在 WebShop 和 ScienceWorld 闭环评测中，其成功率高于多数经验证集选择的固定预算设置，且推理 token 少于完整思考。在 WebShop 上用 Qwen3.8-27B 时，每回合推理 token 减少 42%，任务成功率相近。
正文 · AI 翻译
摘要：具备推理能力的语言模型智能体在行动前可能产生大量计算，尽管不同决策所需的推理量各不相同。现有的停止信号，如置信度和中间答案稳定性，在不同推理模型上的有效性可能有所差异；从隐藏状态或 token 概率中获取的信号还需要内部访问权限，而这可能无法获得或不切实际。我们提出 StreamStop，它从前缀级动作一致性中离线学习特定于模型的停止策略。一个冻结的前缀读取器为轻量级停止头编码可用的推理文本，从而无需访问推理模型的内部信号即可实现停止。我们构建并公开发布了一个智能体推理轨迹数据集，带有前缀级动作标注。这些标注将每个前缀动作与完整推理的参考动作进行比较，从而能够离线比较停止规则，并对折扣动作一致性目标进行精确的期望回报优化。以折扣因子为条件来调节停止头，可以在推理时调整一致性与 token 之间的权衡，而无需重新训练。在 WebShop 和 ScienceWorld 上的闭环评估中，StreamStop 在观察到的成功率上高于大多数经验证集选择的固定预算设置，同时使用的推理 token 少于完整思考。在 WebShop 上使用 Qwen3.8-27B 时，它每回合使用的推理 token 减少了 42%，而观察到的任务成功率相近。
| 评论： | 15 页，6 幅图。项目页面：此 https URL |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.27981 [cs.CL] |
| （或 arXiv:2610.27981v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.27981 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：JunHyeok Oh [查看电子邮件]
[v1]
2026 年 10 月 20 日星期二 10:24:30 UTC（811 KB）
来源：arXiv cs.CL · arxiv.org