arXiv cs.CL· Yihao Hu, Zhihao Wen, Yitong Lin, Siyuan Lu, Pan Wang, Wei Wu, Jiang-Ming Yang, Tao Lin·· 16 小时前AI 评分32
Trajectory2Gym:面向工具使用智能体的决策锚定组合交互合成
Trajectory2Gym: Decision-Grounded Compositional Interaction Synthesis for Tool-Use Agents
AI 导读
Trajectory2Gym 通过构建可执行交互并仅从有依据的决策中提取监督信号,在五个 Qwen3 规模上均提升 Tau1、Tau2 和 BFCL,三项基准等权平均提升 16.9-29.8 个百分点。该方法强调组合覆盖与决策锚定两项要求,增益在有状态和多轮交互中最为显著。
正文 · AI 翻译
摘要:成功的工具使用轨迹未必是有用的监督信号。即便是成功的交互,也可能低估多步依赖关系,或包含在决策时刻智能体可见信息下缺乏依据的动作。我们确定了有效轨迹监督的两项相互关联的要求:组合覆盖,即重要的观察-动作依赖关系得到体现;以及决策有据,即每个被监督的动作都得到学习者可见交互历史的支持。我们提出 Trajectory2Gym,它围绕支持不足的组合结构构建可执行交互,并且只从这些交互实际执行中有据可依的决策中提取监督信号。结构支持选择负责分配由此产生的经验,而父级归一化监督微调则将语义交互保留为训练权重的单位。这将轨迹生成重新定义为对可学习交互经验的刻意构建,而非对成功轨迹的收集。在五个 Qwen3 规模上,Trajectory2Gym 在每个测试规模上都提升了 Tau1、Tau2 和 BFCL,使三项基准的等权平均值提高了 16.9-29.8 个百分点。增益在有状态和多轮交互中最为显著,因为在这些场景中后续决策依赖于先前的观察和反馈。我们的结果表明,扩展工具使用智能体不仅取决于收集更多成功轨迹,还取决于构建这样的交互:其依赖关系得到体现,且其决策可从智能体可见历史中学习。
| 学科: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2610.33568 [cs.CL] |
| (或 arXiv:2610.33568v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.33568 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Yihao Hu [查看电子邮件]
[v1]
2026年10月24日星期六 09:38:02 UTC(839 KB)
来源:arXiv cs.CL · arxiv.org