arXiv cs.AI· Qing Ping, Wei Yang, Panpan Xu, Johannes Kirmayr, Lukas Stappen, Junjie Tang, Jun Huan·· 11 小时前AI 评分38
Gradus:从环境潜在教学大纲中发现并恢复智能体经验
GRADUS: Discovering and Recovering Agent Lessons from the Environment's Latent Syllabus
AI 导读
Gradus 将固定环境视为潜在教学大纲,无需种子任务即可提取受约束的行为算子并组合成递进难度的任务,同时用执行反馈联合校准任务与解,把验证变成恢复信号而非终末过滤。在 τ²-Bench 上,30B 模型从 59% 提升至 89%,CAR-Bench 从 47% 提升至 83%(Opus 4.5 出题);换用开源 Qwen3-235B 出题时分别为 76% 和 62%。
正文 · AI 翻译
摘要:为受策略约束的工具环境(例如具有预订、退款和取消政策的航空公司后端)训练 LLM 智能体,需要能够单独及组合地检验环境规则的任务。现有的合成流水线让模型提出任务,并只保留模型能立即解决的任务,从而使训练数据偏向较容易的行为。我们提出 Gradus(Graded Rungs of Ascending Difficulty from an Underlying System,即基于底层系统的难度递增分级阶梯),它将任务应教授的内容与用于教授该内容的具体任务和解决方案解耦。在没有种子任务的情况下,Gradus 将固定环境视为潜在的教学大纲,提取受约束的行为算子,这些算子刻画了动作如何依赖当前条件,以及动作的效果如何重塑后续决策。它将这些算子组合成要求越来越高的任务,同时利用语料库级反馈来针对缺失的结果组合。关键在于,Gradus 针对环境联合校准任务和解决方案:执行反馈确定应改进哪一方,同时保留预期的行为要求。因此,验证成为一种恢复信号,而非终端过滤器,将覆盖引导的探索与困难样本的保留结合起来。基于现成的主干模型,所生成的课程使一个 30B 模型在 $\tau^2$-Bench 上从 59% 提升到 89%,在 CAR-Bench 上从 47% 提升到 83%(使用 Opus 4.5 作为提议者);在使用开放权重 Qwen3-235B 作为提议者时,分别提升到 76% 和 62%。这些结果表明,联合控制探索哪些行为以及哪些行为能保留到经过验证的训练数据中具有重要价值。
| 学科: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.27781 [cs.AI] |
| (或此版本的 arXiv:2610.27781v1 [cs.AI]) | |
| https://doi.org/10.48550/arXiv.2610.27781 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Qing Ping [查看电子邮件]
[v1]
2026年10月20日星期二 07:47:20 UTC(3,864 KB)
来源:arXiv cs.AI · arxiv.org