跳到正文
热点事件持续更新

PIPETTE:提示注入紫队框架

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Lipeng He 等作者提出 PIPETTE 提示注入紫队框架,把红队测试发现的攻击转化为防御方的鲁棒性提升。该框架用基于字典学习的奖励机制,鼓励红队覆盖更广的攻击策略,并集成面向间接提示注入防御的 on-policy 对抗训练流程。 作者称,在 AgentDojo 和 ASB 基准上,经 PIPETTE 训练的防御模型对静态攻击的攻击成功率接近零,并能抵御强自适应攻击,同时良性任务效用接近未防御基线。

AI 根据报道生成 · 56 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.AI
    PIPETTE:面向鲁棒 LLM 智能体的提示注入紫队测试框架

    PIPETTE 是一个统一的提示注入紫队测试框架,能将红队测试发现的攻击转化为防御方的鲁棒性提升。它采用基于字典学习的奖励机制,鼓励红队测试覆盖更广的攻击策略,并集成面向间接提示注入防御的 on-policy 对抗训练流程。在 AgentDojo 和 ASB 基准上,PIPETTE 训练的防御模型对静态攻击的攻击成功率接近零,并能抵御强自适应攻击,同时良性任务效用接近未防御基线。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。