arXiv cs.AI· Wenxuan Wang, Zekai Liu, Weinan Zhang, Yu Cheng, Yang Yang·· 10 天前AI 评分25
D-OPCD:通过在线策略上下文蒸馏将智能体经验内化进扩散模型权重
Internalizing Agent Experience into Diffusion Model Weights via On-Policy Context Distillation
AI 导读
研究者提出 Diffusion On-Policy Context Distillation(D-OPCD),将智能体改进后的提示词作为特权上下文,把智能体框架的能力蒸馏进扩散模型权重,使模型仅凭原始查询即可保留部分框架收益。
正文 · AI 翻译
摘要:将图像生成模型置于智能体框架中可有效提升文本到图像任务的性能:该框架能够利用记忆、技能、工作流编排、结果验证和迭代优化来持续构建和修改提示词,从而生成更好的图像。然而,这些收益仍外在于扩散模型,且仅在完整框架运行时才能实现。我们提出扩散同策略上下文蒸馏(D-OPCD),将智能体改进后的提示词视为特权上下文,并将智能体框架中编码的知识蒸馏到扩散模型的权重中,使模型仅以原始查询为条件时也能保留框架的部分收益。使用配备我们提出的自动技能进化器(ASE)的文本到图像智能体,我们表明 D-OPCD 能够将框架能力内化到生成器的权重中,在四个基准上将平均直接生成得分从 60.52 提升至 65.09。随着这些知识被吸收到权重中,框架可以舍弃已饱和的技能并恢复进化:在更新后的生成器上进行第二轮 ASE 相比无技能框架又提升了 1.83 分,指向了框架与模型通过持续协同进化相互促进的文本到图像系统。
| 评论: | 27 页,11 张图 |
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.07250 [cs.AI] |
| (或 arXiv:2610.07250v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.07250 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Wang Wenxuan [查看邮箱]
[v1]
2026年10月5日星期一 18:50:09 UTC(6,868 KB)
来源:arXiv cs.AI · arxiv.org