arXiv cs.CL· Zijun Wang, Zewen Liu, Minhua Lin, Zhaotian Weng, Zhan Shi, Bing He, Yisi Sang, Dakuo Wang, Benoit Dumoulin, Wei Jin, Yuyin Zhou, Cihang Xie, Hanqing Lu·· 9 天前AI 评分41
语言模型作为 AI 研究世界模型
Language Models as AI Research World Models
AI 导读
研究将语言模型用作 Research World Models（RWM），预测候选实验干预在研究环境中的结果，评估基于 9 个研究环境、超 2600 条实验记录和逾 171,000 H100 GPU-hours 的实验数据。
正文 · AI 翻译
作者：Zijun Wang、Zewen Liu、Minhua Lin、Zhaotian Weng、Zhan Shi、Bing He、Yisi Sang、Dakuo Wang、Benoit Dumoulin、Wei Jin、Yuyin Zhou、Cihang Xie、Hanqing Lu
摘要：AI 研究智能体将提出、实现和评估实验的循环自动化，为递归式自我改进开辟了一条路径。然而，它们提出实验的能力超过了在真实环境中执行实验的能力，这使得在有限实验预算下，结果预测成为持续自我改进的一项关键能力。我们将语言模型作为研究世界模型（RWM）进行研究，该模型可预测研究环境中候选干预措施的结果。我们的评估基于来自九个研究环境的 2,600 多条实验记录，涵盖预训练、后训练和推理，代表超过 171,000 个 H100 GPU 小时的实验。从真实实验经验中获得的研究知识可提升 RWM 对同一环境中未见干预措施的预测能力（Spearman +0.27），并且可以跨环境复用。例如，仅使用来自 OLMo3、Marin 和 Nanochat 的预训练经验，与零经验设置相比，RWM 将 Qwen3 环境中的选择遗憾降低了 78%。这些收益在固定选择预算下的多轮 Autoresearch 中同样成立：具备环境内和跨环境研究知识的 RWM 分别将所取得的最佳增益提高了 15.8% 和 11.6%。对 13 个用作 RWM 的语言模型进行的消融实验表明，加入研究知识对干预排序的提升可以超过仅更换模型或增加推理投入。这些发现支持将语言模型用作 RWM，并推动积累实验数据以用于未来的 RWM 训练。
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.12235 [cs.CL] |
| （或使用 arXiv:2610.12235v1 [cs.CL] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2610.12235 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
发件人：Zijun Wang [查看邮箱]
[v1]
2026年10月8日星期四 16:18:54 UTC（286 KB）
来源：arXiv cs.CL · arxiv.org