AutoPI:按分类体系覆盖提示注入攻击
热点事件持续更新
AutoPI:按分类体系覆盖提示注入攻击
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Stavros Damianakis 与 Konstantinos Psounis 提出并发布 AutoPI,一种面向 LLM 智能体提示注入的自适应红队测试方法。它依据提示注入技术分类体系 PIAtlas 引导搜索并衡量覆盖度,目标是找出多种不同的攻击方式,而非只追求攻击成功率(ASR)。 该方法为黑盒、免训练,可替换现有基准中的固定攻击模板接入使用,并称能随分类体系演进而更新。作者同时公开代码和生成的攻击数据,用于可复现、覆盖度感知的评测。
AI 根据报道生成 · 58 分钟前更新
最新进展11月20日 13:00
AutoPI:面向 LLM 智能体提示注入的分类引导自适应红队测试报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- arXiv cs.AIAutoPI:面向 LLM 智能体提示注入的分类引导自适应红队测试
AutoPI 是面向 LLM 智能体提示注入的自适应红队测试方法,基于提示注入技术分类体系 PIAtlas 引导搜索并衡量覆盖度,而非只追求攻击成功率(ASR)。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。