跳到正文
arXiv cs.AI· Dongjun Han, Mingyu Lee, Ikjin Lee·· 10 小时前AI 评分31

LLM 辅助多保真度贝叶斯优化:融合专家知识与数值数据

LLM-Assisted Multi-Fidelity Bayesian Optimization: Fusing Expert Knowledge with Numerical Data

AI 导读

研究者提出 LLM-Assisted MFBO,在传统多保真度贝叶斯优化模型中加入知识基:由 LLM 解读专家对低保真模型所省略物理的描述,判断两个设计中哪个需要更大的带符号残差修正,再用成对高斯过程将这些判断转化为知识基,并由高保真数据校准其贡献与符号。在锂离子电池设计问题上,该方法将传统 MFBO 的遗憾曲线下面积降低 61%。控制实验显示,决定搜索是否加速的是知识质量而非 LLM 的选择。

正文 · AI 翻译

查看 PDF

摘要:多保真度贝叶斯优化(MFBO)通过将低成本的低保真度(LF)模型与少量准确的高保真度(HF)评估相结合,并顺序选择待评估的设计,从而降低工程设计成本。然而,当 HF 数据稀缺时,仅凭数值数据难以学习 LF-HF 之间的差异,尤其是当 LF 模型中省略的物理机制使其具有设计依赖性时。然而,即使没有足够的数据,领域专家通常也知道 LF 模型省略了哪些物理机制,以及在何种条件下其影响会增大。现有多保真度(MF)模型无法直接利用这类定性知识,但大语言模型(LLM)可以对其进行解释并据此比较设计。所提出的 LLM 辅助 MFBO 为传统 MF 模型添加了一个知识基:根据专家对省略物理机制的描述,LLM 判断两个设计中哪一个需要更大的带符号残差修正,并通过成对高斯过程将这些判断转换为该知识基。HF 数据用于校准其贡献和符号,因此知识不会被盲目信任。在一个锂离子电池设计问题上,所提出的方法将传统 MFBO 的曲线下遗憾面积降低了 61%。一项分别独立改变知识质量和 LLM 选择的对照研究表明,决定搜索是否加速的是知识质量,而非 LLM 的选择。知识级消融进一步量化了每条知识陈述的贡献。这些结果表明,LLM 解释的专家知识可以作为 MFBO 中的一种信息源来补充数值数据。
评论: 35 页,8 幅图,3 张表
主题: 机器学习(cs.LG);人工智能(cs.AI);计算工程、金融与科学(cs.CE)
ACM 分类: I.2.6;G.1.6;J.6
引用为: arXiv:2611.24377 [cs.LG]
  (或 arXiv:2611.24377v1 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.24377

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Dongjun Han [查看邮箱]
[v1] 2026 年 11 月 18 日星期三 13:07:03 UTC(2,352 KB)

来源:arXiv cs.AI · arxiv.org