跳到正文
arXiv cs.AI· Fei Shen, Chengyu Xie, Lihong Wang, Zhanyi Zhang, Xin Jiang, Xiaoyu Du, Jinhui Tang, Tat-Seng Chua·· 3 天前AI 评分31

IMAGAgent:基于约束感知规划与反思的多轮图像编辑框架

IMAGAgent: Orchestrating Multi-Turn Image Editing via Constraint-Aware Planning and Reflection

AI 导读

IMAGAgent 是一个基于"规划—执行—反思"闭环机制的多轮图像编辑智能体框架,通过约束感知规划模块将复杂指令分解为可执行子任务,并利用工具链编排模块调度图像检索、分割、检测与编辑等异构模型。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:现有多轮图像编辑范式往往局限于孤立的单步执行。由于缺乏上下文感知和闭环反馈机制,它们在多轮交互中容易产生错误累积和语义漂移,最终导致生成图像出现严重的结构失真。为解决这一问题,我们提出了 IMAGAgent,一种基于“规划—执行—反思”闭环机制的多轮图像编辑智能体框架,在统一流程中实现指令解析、工具调度与自适应修正的深度协同。具体而言,我们首先提出一个约束感知规划模块,利用视觉语言模型(VLM)将复杂的自然语言指令精确分解为一系列可执行的子任务,并受目标单一性、语义原子性和视觉可感知性约束。然后,工具链编排模块根据当前图像、当前子任务和历史上下文动态构建执行路径,实现覆盖图像检索、分割、检测和编辑的异构操作模型之间的自适应调度与协同运作。最后,我们设计了一种多专家协同反思机制,其中中央大语言模型(LLM)将多个视觉语言模型的评估综合为整体反馈,触发细粒度自我修正并记录反馈结果以优化未来决策。在我们构建的 MTEditBench 和 MagicBrush 数据集上进行的大量实验表明,IMAGAgent 在指令一致性、编辑精度和整体质量方面均显著优于现有方法。代码可在 此 https URL 获取。
主题: 图形学(cs.GR);人工智能(cs.AI);计算机视觉与模式识别(cs.CV);多智能体系统(cs.MA)
引用为: arXiv:2603.29602 [cs.GR]
  (或 arXiv:2603.29602v2 [cs.GR] 为此版本)
  https://doi.org/10.48550/arXiv.2603.29602

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Fei Shen [查看邮箱]
[v1] 2026年2月12日星期四 02:37:38 UTC(4,007 KB)
[v2] 2026年10月11日星期日 17:52:50 UTC(6,100 KB)

来源:arXiv cs.AI · arxiv.org