跳到正文
RadarAI· X:Rohan Paul (@rohanpaul_ai)·· 7 天前AI 评分46

亚马逊论文:LLM 可当研究世界模型预测实验结果

AI 导读

亚马逊新论文提出用 LLM 充当"研究世界模型",在实验开跑前预测训练改动的收益。基于 9 个设置、2653 条真实实验记录测试,同设置历史记录将预测与实际结果的平均排名相关性从 0.506 提升至 0.774(5 个设置);在 OLMo3-100M 上,低推理强度加记录得 0.892,最高推理强度无记录仅 0.648。作者建议研究智能体记录包括失败在内的每次实验,并喂给选下次运行的模型。

正文 · AI 翻译

Rohan Paul· @rohanpaul_ai · X·2026-10-11 19:23· 18 分钟前AI 评分45

AI 导读

亚马逊新论文提出用 LLM 充当"研究世界模型",在实验开跑前预测训练改动的收益。基于 9 个设置、2653 条真实实验记录测试,同设置历史记录将预测与实际结果的平均排名相关性从 0.506 提升至 0.774(5 个设置);在 OLMo3-100M 上,低推理强度加记录得 0.892,最高推理强度无记录仅 0.648。作者建议研究智能体记录包括失败在内的每次实验,并喂给选下次运行的模型。

正文

亚马逊新论文表明,LLM 可以充当研究世界模型,在任何人花费 GPU 时间之前预测某项训练改动是否有帮助。

AI 研究智能体提出实验的速度远超团队能够承担运行的速度。选择哪些实验获得 GPU 时间意味着要提前猜测结果。

他们将 LLM 用作研究世界模型,在实验运行前预测其收益。他们在来自 9 个设置、从预训练到推理的 2,653 条真实实验记录上进行了测试。

来自同一设置的历史记录在 5 个设置中将与实际结果的平均排名相关性从 0.506 提升至 0.774。在 OLMo3-100M 设置上,低推理强度下加入记录得分为 0.892,而最高推理强度且无记录仅达到 0.648。

如果你运行研究智能体,请记录每一次实验,包括失败,并将这些记录喂给选择下一次运行的任何模型。

来源:Rohan Paul · x.com

来源:RadarAI · aihot.news