arXiv cs.CL· Haotian Wu, Zeming Chen, Hao Zhao, Antoine Bosselut·· 10 小时前AI 评分38
TTT-Consolidate：用测试时训练整合多智能体推理轨迹
Consolidating Reasoning with Test-Time Training
AI 导读
研究者提出 TTT-Consolidate 框架，将多智能体推理轨迹通过测试时训练整合进轻量 LoRA 适配器，再据此生成最终解，在数学与 STEM 基准上比最佳聚合基线高出最多 20 个百分点。
正文 · AI 翻译
摘要：有效的多智能体协作需要从分布在众多智能体各自尝试中的推理来最终确定解决方案。然而，当协作仅限于对各个智能体所得结论进行投票，或在上下文中聚合冗长、嘈杂的推理轨迹集合时，有用的中间推理可能未被利用。在这项工作中，我们提出 TTT-Consolidate，一个将多智能体推理轨迹用作适应数据以改进模型后续推理的框架。TTT-Consolidate 通过测试时训练将轨迹联合整合为参数化表示，然后以整合后的信息为条件生成新的解决方案。我们在训练时使用双层优化来元学习如何整合，其中内循环将推理轨迹编码为轻量级 LoRA 适配器，外循环为内循环学习元参数，使得整合有助于模型综合出最终解决方案。
由于不存在用于训练聚合方法的大规模多样化推理轨迹语料库，我们构建了 OpenParallelThinking 语料库，由 12,810 道数学题与来自六个 LLM 的混合轨迹配对组成。在具有挑战性的数学和 STEM 基准上评估，TTT-Consolidate 在匹配计算量和运行时设置下，比最佳聚合基线高出多达 20 个百分点，且差距在更大模型规模下进一步扩大。TTT-Consolidate 还能更稳健地从失败的个体轨迹中恢复，这种能力随着可用（即使不正确）轨迹数量的增加而提升。最后，我们证明 TTT-Consolidate 受益于 SFT 和基于 RL 的外循环目标。我们将发布 TTT-Consolidate 和 OpenParallelThinking，供未来推理聚合工作使用。
| 评论： | NeurIPS 2026，25 页，测试时训练，推理聚合，元学习 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2611.02104 [cs.CL] |
| （或 arXiv:2611.02104v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.02104 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Zeming Chen [查看电子邮件]
[v1]
2026 年 11 月 1 日星期日 18:18:22 UTC（741 KB）
来源：arXiv cs.CL · arxiv.org