跳到正文
热点事件持续更新

AutoPI:按分类体系覆盖提示注入攻击

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Stavros Damianakis 与 Konstantinos Psounis 提出并发布 AutoPI,一种面向 LLM 智能体提示注入的自适应红队测试方法。它依据提示注入技术分类体系 PIAtlas 引导搜索并衡量覆盖度,目标是找出多种不同的攻击方式,而非只追求攻击成功率(ASR)。 该方法为黑盒、免训练,可替换现有基准中的固定攻击模板接入使用,并称能随分类体系演进而更新。作者同时公开代码和生成的攻击数据,用于可复现、覆盖度感知的评测。

AI 根据报道生成 · 58 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.AI
    AutoPI:面向 LLM 智能体提示注入的分类引导自适应红队测试

    AutoPI 是面向 LLM 智能体提示注入的自适应红队测试方法,基于提示注入技术分类体系 PIAtlas 引导搜索并衡量覆盖度,而非只追求攻击成功率(ASR)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。