跳到正文
arXiv cs.AI· Jiahao Lu, Mohan Kankanhalli·· 9 天前AI 评分29

Agentic-TTT:为测试时训练学习测试时策略

Agentic-TTT: Training test-time policy for test-time training

AI 导读

Agentic-TTT 将 TTT 流程转化为可调用工具,把累积技能视为不断演化的部署环境,并依据决策带来的效用增益训练测试时策略,决定何时启用 TTT、调用哪种算法以及能否复用已有技能。在其自建 benchmark 上,该策略相比骨干模型效用接近翻倍,还能在效用与算力之间做权衡,并泛化到训练中未见过的领域。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:测试时训练(TTT)利用从测试输入中导出的信号来调整 LLM 的参数,并能在预先指定的场景(如 IMO 竞赛或指定的开放问题)中取得显著改进。通过将部署经验转化为参数更新,TTT 提供了一种直接的模型级自我改进机制。然而,TTT 并非普遍有益:每种 TTT 算法适用于不同的场景,应用不恰当的方法可能会浪费测试时算力,甚至损害模型性能。因此,这种参数级别的自我改进需要自主性:模型必须决定何时需要 TTT、调用哪种算法,以及是否可以复用已有的技能。为填补这一空白,我们提出了 Agentic-TTT,它学习一个测试时策略来管理这些决策。Agentic-TTT 将 TTT 流程转化为可调用的工具,将积累的技能视为不断演化的部署环境,并利用其决策所观察到的效用增益来训练策略。在我们的基准测试中,Agentic-TTT 的效用相比骨干模型几乎翻倍,学会了在效用与算力之间进行权衡,并能泛化到训练期间未见过的领域。这些结果共同指向自主自我改进:模型能够决定如何从自身的部署经验中学习。
学科: 机器学习(cs.LG);人工智能(cs.AI);计算与语言(cs.CL)
引用为: arXiv:2610.12002 [cs.LG]
  (或使用 arXiv:2610.12002v1 [cs.LG] 获取此版本)
  https://doi.org/10.48550/arXiv.2610.12002

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

发件人:Jiahao Lu [查看电子邮件]
[v1] 2026年10月8日星期四 14:06:26 UTC(821 KB)

来源:arXiv cs.AI · arxiv.org