arXiv cs.CL· Chengyi Yang, Zhishang Xiang, Yunbo Tang, Zongpei Teng, Chengsong Huang, Fei Long, Yuhan Liu, Jinsong Su·· 11 小时前AI 评分31
TTCS:面向自进化的测试时课程合成框架
TTCS: Test-Time Curriculum Synthesis for Self-Evolving
AI 导读
TTCS 是一个协同进化的测试时训练框架,从同一预训练模型初始化出题器与推理求解器两个策略,通过迭代优化让出题器按求解器当前能力生成递进难度的题目变体。求解器利用原始测试题与合成题多次采样得到的自一致性奖励更新自身,其反馈又反过来引导出题器对齐当前能力。实验显示 TTCS 在困难数学基准上持续提升推理能力,并可迁移到通用领域任务,代码已公开。
正文 · AI 翻译
摘要:测试时训练(Test-Time Training)提供了一种有前景的方法,仅通过使用测试问题对模型进行适配,即可提升大语言模型(LLM)的推理能力。然而,现有方法在困难的推理问题上表现不佳,原因有二:原始测试问题往往过于困难,难以产生高质量的伪标签;测试集规模有限,使得持续的在线更新容易不稳定。为解决这些局限,我们提出 TTCS,一种协同进化的测试时训练框架。具体而言,TTCS 从同一个预训练模型初始化两个策略:问题合成器和推理求解器。这两个策略通过迭代优化共同进化:合成器以测试问题为条件生成难度逐步提升的问题变体,为求解器当前能力量身定制结构化的课程;求解器则利用在原始测试问题和合成问题的多个采样回答上计算出的自一致性奖励来更新自身。关键在于,求解器的反馈引导合成器生成与模型当前能力相匹配的问题,而生成的问题变体反过来又稳定了求解器的测试时训练。实验表明,TTCS 在具有挑战性的数学基准上持续增强推理能力,并可迁移到不同 LLM 骨干网络上的通用领域任务,凸显了一条可扩展的路径,用于为自我进化动态构建测试时课程。我们的代码和实现细节可在 此 https URL 获取。
| 评论: | NeurIPS 2026 海报 |
| 主题: | 机器学习(cs.LG);人工智能(cs.AI);计算与语言(cs.CL) |
| 引用为: | arXiv:2601.22628 [cs.LG] |
| (或针对此版本的 arXiv:2601.22628v3 [cs.LG]) | |
| https://doi.org/10.48550/arXiv.2601.22628 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Chengyi Yang [查看邮箱]
[v1]
2026年1月30日星期五 06:38:02 UTC(1,038 KB)
[v2]
2026年10月17日星期六 02:55:42 UTC(1,031 KB)
[v3]
2026年10月20日星期二 08:25:47 UTC(1,031 KB)
来源:arXiv cs.CL · arxiv.org