arXiv cs.CL· Hao Chen, Ziyang Ling, Ronald X. Xu, Mingzhai Sun·· 2 天前AI 评分22
FGSS-BO：面向 LLM 贝叶斯优化的反馈引导假设管理
FGSS-BO: Feedback-Guided Hypothesis Management for LLM-Based Bayesian Optimization
AI 导读
研究者提出 Feedback-Guided Search State（FGSS），一种将语言引导与观测证据、可执行参数干预及对比支持更新连接起来的结构化假设管理接口，由 LLM reflector 提出并修订假设、确定性 curator 验证并维护其身份与测试记录。
正文 · AI 翻译
摘要：大语言模型（LLM）引导的贝叶斯优化（BO）利用过往观测来指导搜索，但所提出的方向及其修正可能仍是隐式的。我们提出反馈引导搜索状态（FGSS），一种结构化假设管理接口，将基于语言的指导与观测证据、可执行的参数干预以及比较性支持更新相连接。LLM 反思器提出并修正假设；确定性策展器验证这些假设并维护身份标识与测试记录。不断演化的状态指导候选构建与优先级排序。在 LLAMBO 上实例化后，FGSS-BO 保留其代理模型和默认的期望改进选择，并采用有界测试策略。在两个带有最近邻响应预言机的回顾性协议/媒体任务上，它取得了比匹配的 LLAMBO 基线以及所评估的非 LLM 基线更高的样本均值最终最优值和搜索 AUC。散文式反思和仅 EI 的对照显示出混合的组件效应。六个直接训练的超参数优化任务显示出任务相关的迁移，在 diabetes SVM 上最强；精确网格和反应对照考察了其他设置。FGSS 将假设、其执行以及跨轮次修正暴露出来以供检查，同时在选定的设置中支持搜索增益。
| 评论： | 21 页，8 幅图 |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.21246 [cs.CL] |
| （或 arXiv:2610.21246v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21246 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Hao Chen [查看电子邮件]
[v1]
2026年10月15日星期四 04:42:42 UTC（224 KB）
来源：arXiv cs.CL · arxiv.org