arXiv cs.AI· Sarim Hashmi, Mukul Ranjan, Kshitij Mishra, Mikhail Kuznetsov, Praneeth Vepakomma, Nils Lukas·· 10 天前AI 评分24
AdvSim2Real：在 Web 世界模型中用自适应提示注入训练 Web 智能体
AdvSim2Real : Training Web Agents Against Adaptive Prompt Injection in a Web World Model
AI 导读
AdvSim2Real 在冻结的 Web 世界模型中协同演化任务课程、注入对抗者和智能体，训练出更强大也更鲁棒的 4B Web 智能体。该智能体在从未训练过的前沿模型对抗下仍保持完成率，能力提升还可迁移到真实浏览器；在 150 个 Web 任务上，面对这一未见过的对抗者，完成率相对基线智能体提升 33.6%。
正文 · AI 翻译
摘要：Web 智能体通过阅读并操作第三方编写的页面来完成用户请求，因此页面上植入的指令可能将智能体从用户目标上引开。智能体无法简单地忽略页面，因为页面还包含任务所需的值和控制项。当前的防御方法是在训练前固定的注入样本上微调智能体，而针对已训练模型进行自适应调整的攻击者可以绕过这些防御。对抗训练允许攻击者自适应，但任务保持固定，因此一旦智能体解决了某个任务，该任务就不再具有教学作用。我们提出 AdvSim2Real，它在冻结的 Web 世界模型中协同演化任务课程、注入对抗者和智能体。课程因智能体大约一半时间能解决的任务而获得奖励，对抗者仅因成功翻转——即把判定为成功的任务变为失败的注入——而获得奖励。在模拟器中训练使一个 4B 智能体既更有能力又更鲁棒：无论有无攻击，其完成率都上升，并能抵御一个它从未训练对抗过的前沿模型对抗者，其能力提升还能迁移到真实浏览器。在 150 个 Web 任务上，AdvSim2Real 在这个未见过的对抗者下将完成率相对于基础智能体提升了 33.6\%。
| 评论： | 代码见 此 https URL |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.08773 [cs.CL] |
| （或 arXiv:2610.08773v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.08773 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Mukul Ranjan [查看电子邮件]
[v1]
2026年10月6日星期二 17:56:43 UTC（360 KB）
来源：arXiv cs.AI · arxiv.org