arXiv cs.CL· Elias Lumer, Sahil Sen, Vamse Kumar Subbiah, Kevin Paul·· 6 天前AI 评分22
反思式提示词优化如何提升深度研究智能体：主题不相交多随机种子协议测量可迁移增益与提示词级过拟合
Reflective Prompt Optimization of a Deep-Research Agent: A Topic-Disjoint, Multi-Seed Protocol for Measuring Transferable Gains and Prompt-Level Overfitting
AI 导读
研究者将反思式提示词进化（GEPA）应用于多智能体深度研究智能体的两个系统提示词，在主题不相交划分下，留出引用奖励从 0.702 升至 0.781，提升 0.079，bootstrap 95% 置信区间为 [0.051, 0.107]，并在三个随机种子上复现（均值 0.107）。
正文 · AI 翻译
摘要：提示优化是适配语言模型智能体时替代强化学习的一种有吸引力的方案，因为它成本低廉且能产生人类可读的产物。然而在事实性任务上，它带有一种标量奖励强化学习所没有的失败模式。一个读取训练样本的优化器可以把它们的答案写进提示中，因此分布内的收益可能是记忆而非可迁移的行为。我们将反思式提示演化（GEPA）应用于一个多智能体深度研究智能体的两个系统提示，并在主题不相交的划分下进行评估，其中训练、验证和测试之间不共享任何主题。留出引用奖励从 0.702 提升 0.079 至 0.781，自助法 95\% 置信区间为 [0.051, 0.107]，且该增益在三个随机种子上可复现（均值 0.107）。获胜提示中近一半是记忆的答案键，但一项受控消融实验表明，即使在其编码的确切训练问题上，这些内容也未能获得任何奖励。因此，验证集与留出集之间的大差距是噪声评判者下的小样本选择，而非记忆。改变验证器可分离出使增益得以迁移的因素。分解的逐维度反馈是因果要素，而将其坍缩为单一标量奖励会使留出迁移变为负值。该增益在族外评判者下依然存在，并且很大程度上可由所发现配方的手写版本复现。因此，对提示优化器的可信评估需要留出主题、多个随机种子和验证器消融。我们发布了候选提示、谱系差异、图表、表格和分析。
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.12601 [cs.CL] |
| （或 arXiv:2610.12601v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.12601 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Sahil Sen [查看邮箱]
[v1]
2026年10月8日星期四 18:23:23 UTC（77 KB）
来源：arXiv cs.CL · arxiv.org