arXiv cs.AI· Zhentao Xu·· 3 天前AI 评分22
PID 门控的持续提示词自适应:噪声反馈下的鲁棒调度
PID-Gated Continual Prompt Adaptation Under Noisy Feedback
AI 导读
针对 LLM 智能体在非平稳环境中因噪声反馈导致指令更新被污染的问题,研究者受 PID 控制启发提出一族轻量门控机制,依据当前误差、历史证据累积与编辑后回滚来决定何时触发持久指令更新。在多种漂移任务、不同 LLM 参数规模与反馈噪声水平下,PID 门控在任务性能与编辑器调用预算之间取得比 TextGrad、GEPA 及简单基线更优的 Pareto 权衡。
正文 · AI 翻译
摘要:在非平稳环境中部署 LLM 智能体,需要随着任务漂移不断修订其指令,然而在每次报告错误后都重写指令,可能会将噪声反馈转化为持续存在的错误。这引出了提示自适应中一个常被忽视的调度问题:反馈应在何时触发一次持久的指令更新,以及以多大的编辑器调用成本为代价?受比例-积分-微分(PID)控制的启发,我们引入了一类轻量级门控,它们对当前误差作出反应、随时间累积证据,并在一次编辑后回滚性能退化。我们在多样化的漂移任务、LLM 参数规模、反馈噪声水平和随机种子上,将这些门控与简单基线以及先进的提示优化器(TextGrad 和 GEPA)进行了基准比较。与所考虑的基线相比,PID 门控的持续提示自适应在任务性能(高准确率、低误差)与编辑器调用预算之间产生了更有利的帕累托权衡,表明控制论调度是一种简单、通用的工具,可在不可靠反馈下实现稳健的提示自适应。
| 主题: | 机器学习(cs.LG);人工智能(cs.AI);计算与语言(cs.CL) |
| 引用为: | arXiv:2610.16129 [cs.LG] |
| (或 arXiv:2610.16129v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.16129 arXiv 颁发的 DOI,经由 DataCite(待注册) |
提交历史
来自:Zhentao Xu [查看电子邮件]
[v1]
2026年10月12日星期一 03:46:35 UTC(254 KB)
来源:arXiv cs.AI · arxiv.org