研究者提出多轮越狱红队框架M³
热点事件持续更新
研究者提出多轮越狱红队框架M³
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Yuqing Huang等作者提出自动化红队框架M³，将多轮越狱形式化为有限时域马尔可夫决策过程：由攻击LLM与目标LLM交互，并借助状态LLM生成紧凑内部状态。 在两个benchmark、六个目标模型上，M³的ASR@5最高提升53%；使用轻量攻击模型时，ASR@1和ASR@5分别提升26%和34%。该框架不依赖预定义风险分类，Gini指数最多改善4.82。
AI 根据报道生成 · 57 分钟前更新
最新进展10月26日 12:00
M³：将多轮越狱建模为马尔可夫决策过程的多 LLM 系统报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- arXiv cs.AIM³：将多轮越狱建模为马尔可夫决策过程的多 LLM 系统
研究者提出自动化红队框架 M³，把多轮越狱形式化为有限时域马尔可夫决策过程，由攻击 LLM 与目标 LLM 交互，并借助状态 LLM 生成紧凑内部状态。在两个 benchmark、六个目标模型上，M³ 的 ASR@5 最高提升 53%；即使使用轻量攻击模型，ASR@1 和 ASR@5 也分别提升 26% 和 34%。该框架不依赖预定义风险分类，Gini 指数最多改善 4.82。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。