跳到正文
arXiv cs.AI· Pengze Li, Jiaquan Zhang, Encheng Su, Yunbo Long, Zihang Zeng, Xinping Liu, Han Zhang, Junchi Yu, Shixiang Tang, Aoran Wang, Xi Chen·· 3 天前AI 评分32

面向科学方程发现的工具库与模型耦合演化框架

Coupled Harness--Model Evolution for Scientific Equation Discovery

AI 导读

研究者提出耦合演化框架,让可执行工具库与模型工具使用策略从同一可验证拟合误差信号中共同改进。工具演化阶段由智能体诊断自身失败来新增工具并修正选择规则,策略演化阶段用约 3B 激活参数的小开源模型在成功工具使用轨迹上微调。

正文 · AI 翻译

作者:Pengze Li、Jiaquan Zhang、Encheng Su、Yunbo Long、Zihang Zeng、Xinping Liu、Han Zhang、Junchi Yu、Shixiang Tang、Aoran Wang、Xi Chen

查看 PDF HTML(实验性)

摘要:大语言模型(LLM)正越来越多地被用于从实验数据中发现科学方程。这样的发现系统由两个必须协同工作的部分组成:一个可执行计算工具库,以及模型的工具使用策略。工具提供求解能力,从诊断数据中的结构到拟合候选方程;策略则规划并编排它们的使用。然而,现有系统只调整其中一部分,要么固定工具集,要么固定模型,这使得相应的失败无法被纠正。我们开发了一个耦合演化框架,从同一个可验证的拟合误差信号中同时改进这两个部分。在工具演化阶段,一个智能体通过诊断自身失败,从一小组通用数值操作中生长出一个可执行工具库:当缺少某种能力时,它就编写一个新工具;当正确的工具未被使用时,它就修订其选择规则。在策略演化阶段,一个小型开放模型(约 3B 激活参数)在冻结工具库下收集的成功工具使用轨迹上进行微调,训练公式经过筛选,与所有评估基准均不相交。消融实验表明这两个阶段是互补的:在完全没有工具库时,同一模型几乎解决不了任何问题,工具贡献了大部分增益,而轨迹训练进一步带来增益,且在最难的问题上增益最大。完整系统在拟合容差 $10^{-2}$/$10^{-3}$ 下解决了 LSR-Synth 问题的 79.1/71.3\%,在分布不同的 SRSD-Feynman 面板上达到 63.8\% 的汇总准确率,并获得 CP3-28 归一化聚合值 $-7.27$。这些结果表明了一条更广泛的科学智能体配方:让模型与其工具在可验证反馈下相互改进。
学科: 人工智能(cs.AI)
引用为: arXiv:2610.17740 [cs.AI]
  (或使用 arXiv:2610.17740v1 [cs.AI] 引用此版本)
  https://doi.org/10.48550/arXiv.2610.17740

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Pengze Li [查看邮箱]
[v1] 2026年10月13日星期二 05:17:45 UTC(420 KB)

来源:arXiv cs.AI · arxiv.org