arXiv cs.AI· Dong Nie, Rui Lan, Yixin Nie, Lingzi Hong·· 3 天前AI 评分23
状态表示如何影响长程智能体学习与迁移:一项实证研究
State Representation Shapes Long-Horizon Agent Learning and Transfer: An Empirical Study
AI 导读
一项实证研究用 1.7B、8B、27B 的 Qwen 模型在确定性工具工作流中对比不同状态表示下的监督学习与迁移表现。H16 交叉实验中,紧凑视图训练的 1.7B 适配器在紧凑视图下完成 50/50 留出任务,全状态视图下为 0/50,8B 适配器对也呈现类似不对称。27B ScienceWorld 研究中紧凑状态训练在两种视图下均提升局部准确率,表明迁移模式依赖任务与观测构造。
正文 · AI 翻译
摘要:仅凭端到端成功率无法区分是未能学会某个动作,还是随着任务状态变化未能应用该动作。我们在确定性工具工作流中研究这一区别,这些工作流提供当前工件状态和候选动作配方。使用 1.7B、8B 和 27B 的 Qwen 模型,我们比较了跨工作流视野的监督学习,并将用于训练的状态表示与评估时使用的状态表示进行交叉。视野匹配的监督能带来高完成率,但一个在 H4 上训练的 1.7B 模型在全状态观测下向更长工作流的迁移表现很差。在一次 H16 交叉中,紧凑训练的 1.7B 适配器在紧凑视图下完成了 50/50 的留出任务,而在全视图下对三个配对训练种子中的每一个都完成了 0/50;全量训练的结果因种子而异。另一对 8B 适配器表现出类似的不对称性。这种视图依赖性也出现在配对选择任务中,其中两个候选调用都可执行,正确选择取决于表格内容;在这里,紧凑掩码不会查询目标动作。一个显式的相关性提示改善了全视图执行,但未能弥合所测试检查点的差距。在一项单独的 27B ScienceWorld 研究中,紧凑状态训练在两种视图下都提高了局部准确率,表明迁移模式取决于任务和观测构建方式。总之,这些实验将表示敏感的迁移确定为受控工作流中的瓶颈,但并未将内容缩减与观测的其他变化隔离开来。
| 学科: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.15407 [cs.AI] |
| (或 arXiv:2610.15407v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.15407 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Dong Nie [查看电子邮件]
[v1]
2026年10月11日星期日 07:22:03 UTC(78 KB)
来源:arXiv cs.AI · arxiv.org