arXiv cs.AI· Yepeng Liu, Shengmai Chen, Xuandong Zhao, Chengzhi Liu, Dawn Song, Xin Eric Wang, Yuheng Bu·· 11 小时前AI 评分34
Test-Time Memory Evolution（TTME）能否在科学发现任务上超越 Test-Time Training（TTT）？
Can Test-Time Memory Evolution Outperform Test-Time Training for Scientific Discovery?
AI 导读
研究提出即插即用的测试时自适应方法 Test-Time Memory Evolution（TTME），通过蒸馏经验持续更新外部记忆、不更新模型权重，作为 Test-Time Training（TTT）的替代方案。在相同发现框架下仅替换自适应方法后，TTME 在全部五项数学任务上均优于 TTT，同时 FLOPs 降低 82.8%-84.6%、运行时间缩短 47.7%-58.4%。
正文 · AI 翻译
摘要：近期的\emph{测试时训练}（TTT）框架使开放权重的大语言模型（LLM）在科学发现任务上能够超越由前沿模型驱动的仅推理框架。然而，TTT 在发现过程中为在线权重更新引入了额外的计算成本，因此在扩展到更大模型时，计算效率成为一项重要考量。这促使我们探索一种用于科学发现的高效\emph{测试时自适应}方法。我们提出\emph{测试时记忆演化}（TTME），这是一种即插即用的测试时自适应方法，作为 TTT 的替代方案。TTME 通过蒸馏经验来持续更新外部记忆，以指导后续发现，而无需更新模型权重。为进行清晰的对比，我们在相同的发现框架下评估 TTME 和 TTT，仅替换测试时自适应方法。我们的评估表明，TTME 在所有五项数学任务上均优于 TTT，同时将 FLOPs 计算成本降低 $82.8$-$84.6\%$，运行时间降低 $47.7$-$58.4\%$。这些结果表明，在所评估的发现设置中，TTME 是 TTT 的一种有效且计算高效的替代方案。
| 学科： | 人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.32046 [cs.AI] |
| （或 arXiv:2610.32046v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.32046 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yepeng Liu [查看邮箱]
[v1]
2026年10月23日星期五 01:37:19 UTC（4,793 KB）
来源：arXiv cs.AI · arxiv.org