研究者提出任务篡改基准评测间接提示注入

Rongting Zhang 等作者提出一种按“权限”界定间接提示注入（IPI）的方法：植入内容若试图影响其来源无权决定的决策，即构成攻击。他们据此发布基准，覆盖三个工具使用环境的90个验证案例，攻击方式是篡改良性任务所需的决策，而非替换任务，可针对智能体的目标、决策规则、可用动作、预期后果、观测解读或状态信念六处。 该基准在每个案例中由用户请求指定有权决定目标决策的来源，以此划清攻击边界。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。