arXiv cs.AI· Chonghe Jiang, Ao Qu, Siyuan Liu, Ruoyun Ma, Zijian Zhou, Dingyi Zhuang, Bo Liu, Han Zheng, Hanfei Yu, Baichuan Mo, Jinhua Zhao, Paul Pu Liang·· 3 天前AI 评分42
Guidance-TTT：在测试时训练小模型以解锁更好的科学发现
Evolving in Thought Space: Training a Small Model at Test Time Unlocks Better Discoveries
AI 导读
研究者提出 Guidance-TTT，将测试时训练拆分为两个角色：一个紧凑的引导模型在测试时被训练，负责提出高层策略改动，冻结的执行模型则将其实现为可执行方案，每步只更新引导模型。该方法无需联网，在 Polyomino Packing、AHC058、Lasso 和 TriMul 四个领域均优于此前工作报告的最佳方案，并与公开在线排行榜的 SOTA 结果保持竞争力。代码已开源。
正文 · AI 翻译
作者：Chonghe Jiang、Ao Qu、Siyuan Liu、Ruoyun Ma、Zijian Zhou、Dingyi Zhuang、Bo Liu、Han Zheng、Hanfei Yu、Baichuan Mo、Jinhua Zhao、Paul Pu Liang
摘要：开放式科学发现通常需要反复提出并评估候选解决方案。基于 LLM 的系统可以通过从验证器反馈中生成并改进可执行解决方案来支持这一过程。TTT-Discover 等方法使用测试时训练（TTT）根据验证器反馈更新生成解决方案的 LLM，调整其生成策略以改进针对目标问题的后续提议。然而，当可靠执行需要大型模型时，这会变得昂贵，因为训练必须在反复生成长而结构化的输出时维护梯度、优化器状态和策略统计量。这也使信用分配变得复杂：结果层面的验证器反馈必须同时评估高层策略及其底层实现。在这项工作中，我们提出了 Guidance-TTT，它将这些角色分离。一个紧凑的引导模型在测试时被训练以提出高层策略性变更，而一个冻结的执行模型将其实现为完整的可执行解决方案。在每一步，系统选择一个有前景的先前发现的解决方案，提出变更，执行并验证它，并使用自适应组相对 RL 目标仅更新引导模型。这将测试时学习集中在简短的战略决策上，同时保留一个显著更强的模型的实现能力而不对其进行适配。在没有网络访问的情况下，Guidance-TTT 在四个不同领域产生了强大的解决方案：组合优化（Polyomino Packing）、启发式编程（AHC058）、机器学习（Lasso）和 GPU 内核优化（TriMul）。在这些任务中，它优于先前工作中报告的最佳解决方案，同时与公共在线排行榜上的最先进结果保持竞争力。代码可在 此 https URL 获取。
| Comments: | 35 页，包括参考文献和附录 |
| Subjects: | 人工智能（cs.AI）；机器学习（cs.LG） |
| Cite as: | arXiv:2610.06269 [cs.AI] |
| （或 arXiv:2610.06269v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.06269 由 DataCite 颁发的 arXiv DOI |
Submission history
来自：Chonghe Jiang [查看电子邮件]
[v1]
2026年10月5日星期一 13:04:05 UTC（1,496 KB）
[v2]
2026年10月12日星期一 22:19:47 UTC（1,492 KB）
来源：arXiv cs.AI · arxiv.org