arXiv·· 12 天前AI 评分38
AdvSim2Real：在 Web 世界模型中训练 Web 智能体抵御自适应提示注入
AdvSim2Real : Training Web Agents Against Adaptive Prompt Injection in a Web World Model
AI 导读
AdvSim2Real 通过让任务与攻击者协同演化，训练 Web 智能体抵御自适应提示注入。现有防御在训练前固定注入样本，攻击者一旦适应训练后的模型即可绕过；对抗训练虽允许攻击者适应，但任务固定，智能体一旦解决任务便不再有学习信号。
来源：arXiv · arxiv.org