arXiv cs.AI· Chen Zhang, Kepu Zhang, Jiatong Zhang, Xiao Zhang, Jun Xu·· 13 小时前AI 评分31
SandwichR 提出 Answer-Reasoning-Answer 范式，实现低延迟查询纠错
Sandwich Reasoning: An Answer-Reasoning-Answer Approach for Low-Latency Query Correction
AI 导读
SandwichR 采用“答案-推理-答案”范式，先输出快速初始纠错，再给出显式推理过程，最后精炼出最终纠错，从而在实时延迟约束下兼顾推理精度。该方法设计了带一致性奖励的强化学习策略，并用 margin-based rejection sampling 优先处理推理收益最大的边界样本。实验显示其达到与标准 CoT 相当的 SOTA 精度，同时延迟降低 40-70%。
正文 · AI 翻译
摘要：查询纠错是现代搜索流水线中的关键入口，要求在实时延迟约束内严格保证高准确率。思维链（CoT）推理可提升准确率，但会给实时查询纠错带来难以承受的延迟。一种可能的解决方案是在推理之前先输出答案以降低延迟；然而在自回归解码下，早期答案与后续推理相互独立，使模型无法借助其推理能力提升准确率。为解决这一问题，我们提出 Sandwich Reasoning（SandwichR），一种将快速初始答案与事后推理显式对齐的新方法，可在不牺牲推理感知准确率的前提下实现低延迟查询纠错。SandwichR 遵循 Answer-Reasoning-Answer 范式，依次产生初始纠错、显式推理过程和最终精炼纠错。为使初始答案与推理后的洞见对齐，我们设计了一致性感知的强化学习（RL）策略：专门的一致性奖励强制初始纠错与最终纠错保持一致，而基于间隔的拒绝采样优先选取推理带来最大纠正收益的边界样本。此外，我们构建了高质量的查询纠错数据集，以弥补复杂查询纠错专用基准的缺失。实验结果表明，SandwichR 达到与标准 CoT 相当的 SOTA 准确率，同时将延迟降低 40-70%，解决了在线搜索中的延迟-准确率权衡问题。
| 评论： | 11 页，4 幅图。已被 CIKM 2026 接收 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2601.03672 [cs.AI] |
| （或 arXiv:2601.03672v2 [cs.AI] 为本版本） | |
| https://doi.org/10.48550/arXiv.2601.03672 由 DataCite 颁发的 arXiv DOI |
|
| 相关 DOI： | https://doi.org/10.1145/3799682.3840714
链接到相关资源的 DOI |
提交历史
来自：Chen Zhang [查看邮箱]
[v1]
2026 年 1 月 7 日星期三 07:52:30 UTC（352 KB）
[v2]
2026 年 10 月 28 日星期三 03:46:37 UTC（403 KB）
来源：arXiv cs.AI · arxiv.org