arXiv cs.AI· Haizhong Zheng, Yizhuo Di, Ranajoy Sadhukhan, Shuowei Jin, Beidi Chen·· 10 天前AI 评分31
ServeLearnBench：智能体能否从服务经验中自我改进？
ServeLearnBench: How Well Can Agents Self-Improve from Serving Experience?
AI 导读
研究者提出 ServeLearnBench，用于评估 LLM 智能体从服务经验中持续学习的能力，覆盖零售支持、银行和销售话术生成，包含 53 个环境窗口和 7,718 个任务。
正文 · AI 翻译
摘要：大型语言模型智能体正越来越多地被部署到真实环境中执行复杂任务。然而，在这些环境中正确行为所需的知识往往是隐性的、未公开的，并且会随时间变化。近期的持续学习框架试图通过让智能体从服务经验中改进来应对这一挑战。然而，这些方法的有效性和局限性尚未得到充分刻画。现有基准仅提供部分覆盖：一些明确提供目标知识，另一些假设环境是静态的，而那些支持持续适应的基准在规模和知识多样性上仍然有限。为了实现系统性评估，我们形式化了一个演化环境流式数据集（EESD），其中智能体必须在隐藏策略演化时，从交互和结果反馈中推断、应用并修正潜在的环境知识，并提出了 ServeLearnBench，涵盖零售支持、银行和销售话术生成，包含 53 个环境窗口和 7,718 个任务。我们在六个模型（GPT-5.6 Terra、Opus 5、Kimi K3、GLM-5.3、DeepSeek V4.1 Flash 和 GLM-5.3 Flash）上评估了五种学习框架（RAG、Mem0、SkillOpt、Continual Harness 和 Prime），覆盖 28 个模型-框架组合和 252 次学习运行。我们的评估揭示了三个主要发现：任务能力与从经验中学习之间仍存在显著差距；持续适应成本高昂，且可能使已经正确的行为退化；探索不足成为有效适应的关键瓶颈。总体而言，ServeLearnBench 提供了一个受控测试平台，用于诊断这些局限性并追踪智能体通过服务经验持续可靠改进的进展。
| Comments: | 28 页，13 幅图。代码：this https URL。项目网站：this https URL |
| Subjects: | 机器学习（cs.LG）；人工智能（cs.AI） |
| Cite as: | arXiv:2610.07792 [cs.LG] |
| （或 arXiv:2610.07792v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.07792 arXiv 颁发的 DOI 通过 DataCite（待注册） |
Submission history
来自：Haizhong Zheng [查看电子邮件]
[v1]
2026 年 10 月 6 日星期二 05:39:42 UTC（430 KB）
来源：arXiv cs.AI · arxiv.org