arXiv cs.AI· Shuang Wu·· 3 天前AI 评分18
面向 AI 系统优化的高斯过程 Bandit：选择性验证反馈方法
Gaussian Process Bandits for AI System Optimization with Selectively Verified Feedback
AI 导读
研究针对高斯过程 Bandit 优化提示词、检索系统和智能体工作流时，廉价模型评估与可信任务结果不一致的问题，提出选择性验证框架：动作先于诊断观测选定，可信反馈仅在未知诊断状态集上有效。
正文 · AI 翻译
摘要：高斯过程赌博机利用配置之间的相似性来优化提示、检索系统和智能体工作流。然而，在这些应用中，廉价的基于模型的评估可能与可信的任务结果不一致。我们研究选择性验证问题：在观察到诊断信息之前就选定一个动作，而可信反馈在未知的诊断状态集合上具有信息量。一个有限可靠性类和一个有限 RKHS 信号字典描述了这两类不确定性来源。我们构造了一个固定的审计设计，将可靠性覆盖与奖励分离相结合，并建立了一个有限时间遗憾界，该界考虑了硬性审计预算以及获得有信息量观测所需的轮数。一种安全的自适应扩展将这一稳健设计与可预测的 Chernoff 分配相混合，同时保持统一的识别下限和精确的期望获取成本核算。对于符号坐标核，结构化和弥散可靠性类尽管共享相同的奖励几何结构，却需要不同的审计规模。合成实验将这些经过认证的设计与自适应后验启发式方法和 GP 对照区分开来。在精确字典下，安全自适应分配相对于固定设计降低了总体遗憾，但其有限预算误差证书在数值上是宽松的。条件反馈误差可能消除启发式方法的优势，而针对性扰动可能将其逆转。单独的 AI 任务回放评估了反馈校正和拟合字典策略，但并未建立对学习式选择性验证方法的端到端验证。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；机器学习（stat.ML） |
| 引用为： | arXiv:2610.17760 [cs.LG] |
| （或 arXiv:2610.17760v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.17760 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Shuang Wu [查看电子邮件]
[v1]
2026年10月13日星期二 05:42:14 UTC（191 KB）
来源：arXiv cs.AI · arxiv.org