arXiv cs.AI· Mohammadsina Almasi, Andrea Carbonati, Hadis Anahideh·· 13 小时前AI 评分20
多智能体 LLM 框架如何改进贝叶斯优化中的自适应采集
Multi-Agent LLMs for Adaptive Acquisition in Bayesian Optimization
AI 导读
研究提出一种多智能体框架，将 LLM 驱动的搜索中的探索-利用控制拆分为策略中介与候选生成两步：策略智能体为多个搜索准则分配可解释权重，生成智能体据此产出候选。作者指出单智能体 LLM 在同一提示词内同时做策略选择与候选生成会因认知过载导致搜索不稳定和过早收敛，而在多个连续优化基准上，这种拆分显著提升了 LLM 介导搜索的效果。
正文 · AI 翻译
摘要：探索-利用权衡是序贯决策和黑盒优化的核心，然而大语言模型（LLM）如何推理和管理这一权衡仍鲜为人知。与贝叶斯优化通过采集函数显式编码探索和利用不同，基于 LLM 的优化依赖于对历史评估的隐式、基于提示的推理，使得搜索行为难以分析或控制。在本工作中，我们呈现了一项关于 LLM 介导的搜索策略学习的指标层面研究，研究 LLM 如何在多种探索的操作性定义（包括信息性、多样性和代表性）下构建和调整探索-利用策略。我们表明，单智能体 LLM 方法在单个提示中同时执行策略选择和候选生成，会遭受认知过载，导致搜索动态不稳定和过早收敛。为解决这一局限，我们提出了一个多智能体框架，将探索-利用控制分解为战略策略中介和战术候选生成。策略智能体为多个搜索准则分配可解释的权重，而生成智能体则根据由此产生的、以权重定义的搜索策略为条件生成候选。这种分解使探索-利用决策变得显式、可观察且可调整。在各种连续优化基准上的实证结果表明，将战略控制与候选生成分离可显著提高 LLM 介导搜索的有效性。
| 评论： | IISE 2026 年年会暨博览会论文集 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2603.28959 [cs.LG] |
| （或 arXiv:2603.28959v2 [cs.LG] 为此版本） | |
| https://doi.org/10.48550/arXiv.2603.28959 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Mohammadsina Almasi [查看邮箱]
[v1]
2026年3月30日星期一 20:05:30 UTC（4,169 KB）
[v2]
2026年10月29日星期四 01:57:31 UTC（4,168 KB）
来源：arXiv cs.AI · arxiv.org