arXiv cs.AI· Hang He, Linting Wang, Guanming Liu, Bo Mao, Jinxiu Liu, Yiran Suo, Maosen Zhou, Zhiheng Xi, Guanting Dong, Zhou Shao, Rui Zheng, Jie Zhou, Chengcheng Wan, Tao Gui, Qi Zhang, Xipeng Qiu, Xuanjing Huang·· 3 天前AI 评分41
WorkRover:通过递归环境演化扩展长时程协作智能体训练
WorkRover: Scaling Long-Horizon Cowork Agent Training Via Recursive Environment Evolution
AI 导读
WorkRover 是一个通过递归环境演化训练长时程协作智能体的框架,其 harness 驱动合成让构建智能体协同生成语义对齐的工作上下文、可执行任务与基于证据的验证器。
正文 · AI 翻译
作者:Hang He、Linting Wang、Guanming Liu、Bo Mao、Jinxiu Liu、Yiran Suo、Maosen Zhou、Zhiheng Xi、Guanting Dong、Zhou Shao、Rui Zheng、Jie Zhou、Chengcheng Wan、Tao Gui、Qi Zhang、Xipeng Qiu、Xuanjing Huang
摘要:扩展交互式环境对于通过强化学习训练长时程智能体非常重要。这些环境在初始生成后通常需要进一步测试和优化,而修正任务中的缺陷可能还需要更新其工作上下文和验证器。然而,现有的构建流水线在支持这种迭代优化并同时保持这些组件对齐方面能力有限。我们提出 WorkRover,一个通过递归环境演化来训练长时程协作智能体的框架。其由 harness 驱动的合成使构建智能体能够联合构建并验证语义对齐的工作上下文、可执行任务和基于证据的验证器,并根据工作区状态和执行反馈调整其动作,而不是遵循固定的构建工作流。为支持环境演化,我们引入 Factorial Compatibility Replay(FCR),它利用 rollout 反馈,通过依赖闭合重放来评估组件修订的组合,并在测试过的候选中选择最小的已验证修复,同时保留任务要求和评估约束。为提供更细粒度的训练信号,我们提出 Verifier-to-Turn Credit Assignment(VTCA),它用来自确定性工作区进度检查的信号增强轨迹级 GRPO 优势,并利用记录的工具输出和产物依赖关系,将一部分有界正向进度信用分配给前置轮次。使用 WorkRover,我们对 Qwen3.5-35B-A3B 进行后训练,得到 WorkRover-35B-A3B,并在多个协作智能体基准上对其进行评估。其报告得分在 JobBench 上超过 Qwen3.5-35B-A3B 26.27 个百分点,在 OfficeQA Pro 上超过 29.32 个百分点,在 GDPval v2 上超过 413.25 Elo 分。这些结果表明,WorkRover 为长时程协作智能体的可扩展训练提供了一个有前景的基础。
| 评论: | 项目页面:this https URL |
| 主题: | 人工智能(cs.AI);机器学习(cs.LG) |
| 引用为: | arXiv:2610.18067 [cs.AI] |
| (或 arXiv:2610.18067v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.18067 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Hang He [查看邮箱]
[v1]
2026年10月13日星期二 09:52:02 UTC(10,401 KB)
来源:arXiv cs.AI · arxiv.org