arXiv cs.CL· Wei Xia, Yehui Tang, Zhi-Hong Deng·· 2 天前AI 评分29
EMO：交替上下文优化与 logits 引导的闭环测试时计算框架
EMO: A Closed-Loop Test-Time Computation Framework via Alternating Context Optimization and Logits Steering
AI 导读
EMO 是一个无需训练的测试时计算框架，受 EM 算法启发，交替进行问题特定的上下文估计（E 步）与分布精炼（M 步），通过外部评判模型的文本梯度修正系统上下文，并利用上下文引起的 logit 位移构建置信度约束的 logit 修正。
正文 · AI 翻译
摘要：测试时上下文优化通过文本反馈来适配冻结的语言模型，但普通的条件生成无法单独控制对上下文更新所引发的分布变化进行强化的程度。我们提出 EMO，一个受期望最大化启发的免训练框架，它在针对特定问题的上下文估计（E 步）与分布精炼（M 步）之间交替进行。E 步使用来自外部评判者的文本梯度来修订系统上下文，且无法访问标准答案。M 步在共享前缀处对比修订后上下文与先前上下文下的下一词元分布，以构建置信度约束的 logit 校正。对被引导响应的反馈驱动下一次上下文更新，将跨轮次的适配与每次生成内的干预耦合起来。在理论上，我们通过共享的目标 KL 目标与可加 logit 表示将参数优化与上下文优化联系起来，并从上下文引发的 logit 位移中推导出引导向量。在上下文改进与忠实引导假设下，我们证明当引导强度足够小时，目标 KL 散度单轮下降。在八个模型和六个基准上采用贪婪解码时，EMO 在 40 个聚合设置中的 39 个上改进了零样本基线，平均提升 $+9.10$ 个百分点。在相同评判者下，它相较仅上下文优化（TextGrad）平均再提升 $+1.53$ 个点，且各模型上 MMLU-Pro 均有稳定增益。在匹配目标模型生成预算时，相较 best-of-$N$ 的准确率优势在 Llama 上最为显著，而在大多数比较中尽管候选更少，oracle 覆盖率仍更高。覆盖率与选择之间的差距促使我们将测试时计算同时分配给候选生成与验证。
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.22160 [cs.CL] |
| （或 arXiv:2610.22160v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.22160 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Wei Xia [查看邮箱]
[v1]
2026年10月15日星期四 16:23:55 UTC（437 KB）
来源：arXiv cs.CL · arxiv.org