跳到正文
热点事件持续更新

研究者提出Response Attack越狱框架

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Ziqi Miao等作者提出名为Response Attack(RA)的越狱框架,利用对话中先前产生的中间、轻度有害回复作为上下文启动,在发出目标触发提示词前注入这些回复,诱导大语言模型输出违规内容。 作者称,在八个SOTA大语言模型上的实验中,RA的攻击成功率显著高于九个主流越狱基线,并保持隐蔽性与效率;代码与数据已公开。上述成功率与隐蔽性均为作者报告的结果。

AI 根据报道生成 · 5 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv cs.CL
    Response Attack:利用上下文启动越狱大语言模型

    研究者提出 Response Attack(RA)框架,利用对话中先前产生的中间、轻度有害回复作为上下文启动,在发出目标触发提示词前注入这些回复,从而诱导 LLM 输出违规内容。在八个 SOTA LLM 上的实验显示,RA 的攻击成功率显著高于九个主流越狱基线,且保持隐蔽性与效率。代码与数据已公开。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。