跳到正文
arXiv·· 13 天前AI 评分34

谁在为你的 Agent 服务?主动式 Agent 中的提供方侧间接提示词注入

Who Is Your Agent Serving? Provider-Side Indirect Prompt Injection in Proactive Agents

AI 导读

研究发现,外部提供方无需访问用户私有上下文、无需攻破 Agent 或获取额外权限,仅通过控制与自身目标相关的内容,就能让原本中立的主动式个人 Agent 转而推广该目标,并调用用户合法可用的上下文为其背书、主动降低采纳门槛。这构成了主动式 Agent 在用户决策层面的一类新型攻击面。

来源:arXiv · arxiv.org