arXiv cs.CL· Yuxin Meng, Ruixu Zhang, Junjie Wang, Yuhan Suo, Yuhan Sun, Ruining Hu, Yiyao Yu, Yubin Wang, Shouwei Ruan, Bin Wang, Yue Liao, Yuxiang Zhang, Yujiu Yang·· 9 天前AI 评分27
WebLoop:面向网页生成的执行闭环学习框架
Learning the Loop, Not Just the Page: Execution-Grounded Loop Learning for Web Generation
AI 导读
WebLoop 是一个执行闭环框架,在共享策略内联合学习生成、批判与修复三种角色,用互补信号训练免执行的 Critic 并引入后果感知信用分配。基于 Qwen3.5-9B,WebLoop 在 WebRise 上达到 41.5 Overall、在 WebGen-Bench 上达到 38.9% 准确率,分别较基座模型提升 11.3 和 15.4 分。
正文 · AI 翻译
作者:Yuxin Meng、Ruixu Zhang、Junjie Wang、Yuhan Suo、Yuhan Sun、Ruining Hu、Yiyao Yu、Yubin Wang、Shouwei Ruan、Bin Wang、Yue Liao、Yuxiang Zhang、Yujiu Yang
摘要:功能性 Web 生成正越来越多地借助可执行奖励进行优化,但现有方法大多关注最终页面的质量,而对诊断和修复不完美实现的过程探索不足。我们识别出这一设定中的核心挑战:Generator 和 Refiner 产生带有直接环境奖励的可执行产物,而中间环节的 Critic 在没有可直接执行结果的情况下影响下游行为。我们提出 WebLoop,一个以执行为基础的框架,在共享策略中联合学习生成、批判和精炼。WebLoop 训练一个免执行的 Critic,使用互补信号以实现需求级别的可区分性和下游有用性,首先建立可靠的诊断,然后引入后果感知的信用分配,同时三个角色通过组相对策略学习进行联合优化。在 Qwen3.5-9B 上,WebLoop 在 WebRise 上达到 41.5 Overall,在 WebGen-Bench 上达到 38.9% 准确率,分别比基础模型提升 11.3 和 15.4 个点。这些增益可迁移到首轮生成,在 27B 规模下依然保持,并从纯文本训练泛化到多模态输入。受控分析进一步表明,仅靠额外的精炼轮次无法解释这一改进,凸显了学习 Critic 和循环本身的重要性。
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2610.11543 [cs.CL] |
| (或 arXiv:2610.11543v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.11543 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Yuxin Meng [查看邮箱]
[v1]
2026年10月8日星期四 09:11:17 UTC(3,068 KB)
来源:arXiv cs.CL · arxiv.org