跳到正文
arXiv cs.AI· Ye Li, Haoran Ding, Huanan Liu, Yuan Meng, Yutian Shen, Yuansong Wang, Kangye Ji, Hanyun Cui, Hongbo Duan, Chen Tang, Jiawei Li, Shu-Tao Xia, Zhi Wang·· 14 小时前AI 评分38

GUIFlow:面向 GUI 智能体的时序冗余感知增量推理框架

GUIFlow: Temporal Redundancy-Aware Incremental Inference for GUI Agents

AI 导读

GUIFlow 是一个面向多图像 GUI 交互的全流程增量推理框架,通过跨步骤复用视觉编码、prefill 和 decoding 阶段的计算状态,无需额外训练或独立草稿模型。在离线多图像基准上实现最高 3.39 倍几何平均加速,在 OSWorld 在线闭环交互中最高达 3.49 倍,任务性能与稠密基线基本持平。

正文 · AI 翻译

作者:Ye Li、Haoran Ding、Huanan Liu、Yuan Meng、Yutian Shen、Yuansong Wang、Kangye Ji、Hanyun Cui、Hongbo Duan、Chen Tang、Jiawei Li、Shu-Tao Xia、Zhi Wang

查看 PDF HTML(实验性)

摘要:基于视觉语言模型构建的 GUI 智能体需要与不断变化的界面进行交互,然而传统推理会反复重新计算大量重叠的观测与历史表示。这种不匹配使多步交互代价高昂,而上下文、界面内容和动作参数的变化又阻碍了直接的缓存复用。我们提出 GUIFlow,一个用于多图像 GUI 交互中全流程增量推理的框架。我们的核心洞见是:推进一次决策并不需要重建所有支撑表示:每个交互步骤可以改为选择性地更新在轨迹中维护的计算状态。为在上下文演变时支持新的决策,GUIFlow 调整过去计算的复用方式:历史 KV 状态经过位置对齐后注入当前上下文;变化信号引导视觉编码器和语言模型中对当前观测状态的选择性更新;此前的动作响应则作为推测性草稿,由目标模型进行验证。这些机制共同实现了跨步骤在视觉编码、预填充和解码全过程中的复用,且无需额外训练、无需单独的草稿模型,也不改变模型可见的输入和动作接口。实验表明,在离线多图像基准上几何平均加速最高达 3.39 倍,在 OSWorld 的在线闭环交互中最高达 3.49 倍,同时任务性能与稠密基线大体相当。
主题: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI)
引用为: arXiv:2610.34959 [cs.CV]
  (或本版本使用 arXiv:2610.34959v1 [cs.CV])
  https://doi.org/10.48550/arXiv.2610.34959

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Ye Li [查看邮箱]
[v1] 2026 年 10 月 26 日星期一 07:25:39 UTC(37,474 KB)

来源:arXiv cs.AI · arxiv.org