arXiv cs.AI· Tengda Guo (Tsinghua University), Jiawang Hu (StepFun), Yifei Tao (Nanyang Technological University), Yin Wang (StepFun), Haotian Hu (Zhejiang Leapmotor Technology Co., Ltd), Fanyi Wang (Honor), Liujuan Tang (StepFun)·· 11 小时前AI 评分34
ECHOES:用递归历史压缩与特权在线策略蒸馏让 GUI 智能体看见当前图像之外
ECHOES: Seeing Beyond the Current Image via Recursive History Compression and Privileged On-Policy Distillation
AI 导读
阶跃星辰等机构提出 ECHOES,通过训练期特权信息引导文本历史压缩,采用 Compression-Think-Action(CTA)格式递归更新历史状态并推理。
正文 · AI 翻译
作者:Tengda Guo (1)、Jiawang Hu (2)、Yifei Tao (3)、Yin Wang (2)、Haotian Hu (4)、Fanyi Wang (5)、Liujuan Tang (2)((1) 清华大学,(2) StepFun,(3) 南洋理工大学,(4) 浙江零跑科技股份有限公司,(5) 荣耀)
摘要:长程 GUI 智能体依赖视觉历史来维持任务状态,但保留历史截图会增加视觉 token 用量和推理成本,而文本摘要可能丢弃关键状态信息,从而损害长程可靠性。我们提出 ECHOES,利用训练时的特权信息来引导文本历史压缩并增强长程推理。具体而言,ECHOES 采用压缩-思考-行动(CTA)格式来递归更新文本历史状态并进行推理。同一模型在给定特权多图像输入时充当教师,对学生生成的 CTA 轨迹提供密集的 token 级同策略蒸馏。我们的感知-记忆保真度(PMF)差距引导 OPD-RL 框架动态平衡特权蒸馏与任务奖励优化,并通过周期性教师更新支持持续改进。我们进一步提出 ECHOESBMK,这是一个源自真实 GUI 智能体失败轨迹的细粒度诊断基准,用于联合评估视觉感知和跨模态状态保持。在四个 GUI 基准和 ECHOESBMK 上的实验表明,任务性能和记忆保真度均有显著提升。在部署时不保留历史截图的情况下,ECHOES 取得了有竞争力的性能,并实现了有利的性能-推理成本权衡,同时对未见过的视觉规划任务表现出正向零样本迁移。
| 评论: | 22 页,7 幅图,13 张表 |
| 主题: | 人工智能(cs.AI);计算机视觉与模式识别(cs.CV) |
| 引用为: | arXiv:2610.22408 [cs.AI] |
| (或此版本的 arXiv:2610.22408v1 [cs.AI]) | |
| https://doi.org/10.48550/arXiv.2610.22408 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Tengda Guo [查看邮箱]
[v1]
2026 年 10 月 14 日星期三 14:39:41 UTC(3,286 KB)
来源:arXiv cs.AI · arxiv.org