arXiv cs.CL· Fengyuan Liu, Yue Wang, Hangxi Guo, Fengyuan Liu, Chenxu Wu, Yanguang Liu, Mengnan Du·· 9 天前AI 评分24
从提示词到功能库：EFRE 让 LLM 实现持续学习
From a Prompt to Repertoires: Evolving Functional REpertoires Enable LLM Continual Learning
AI 导读
针对提示词优化在顺序任务适配中会出现灾难性遗忘的问题，研究者提出 Evolving Functional REpertoires（EFRE），用随新任务演化的功能库替代单一提示词：兼容更新细化已有功能，冲突更新则催生新功能。
正文 · AI 翻译
摘要：持续学习对大型语言模型而言仍具挑战性，模型必须能够获取新技能和知识而不损害现有能力。现有方法通常通过精心设计模型参数的更新方式来解决这一挑战。相比之下，提示优化避免了代价高昂的参数更新，同时在单个知识密集型和推理任务上取得了与 GRPO 等强化学习方法相当甚至更优的性能。这引出一个自然的问题：\textit{作为一种高效的适应方法，提示优化能否直接应用于持续学习？}我们的分析表明，在顺序任务适应下，它会遭受灾难性遗忘，而优化后的提示会积累对局部任务分布过拟合的规则。为解决这些局限，我们提出 \emph{Evolving Functional REpertoires}（EFRE），它用一组随新任务到来而演化的函数库取代单一提示：兼容的更新会细化现有函数，而冲突的更新则触发新函数的产生。在三任务持续学习流上，EFRE 的最终平均性能比 GRPO 高出 7.50 个百分点。此外，在适应 Bio 任务后，其在 FinQA 上的性能仅下降 1.56 个百分点，而基础提示优化方法则下降 25.10 个百分点。我们进一步在最小智能体系统中实例化 EFRE，并观察到在不同骨干模型上的一致改进。总体而言，这些结果证明了 EFRE 在大型语言模型持续学习中的强劲表现，并凸显了其在高级智能体系统持续学习中的巨大潜力。
| 学科： | 机器学习（cs.LG）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.11373 [cs.LG] |
| （或 arXiv:2610.11373v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.11373 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Fengyuan Liu [查看电子邮件]
[v1]
2026年10月8日星期四 07:06:52 UTC（933 KB）
来源：arXiv cs.CL · arxiv.org