MACE:MCTS引导的对抗共进化安全对齐框架
热点事件持续更新
MACE:MCTS引导的对抗共进化安全对齐框架
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
研究者 Xurui Li、Kaisong Song 提出 MACE,一个 MCTS 引导的对抗共进化框架,把搜索转化为攻击方与防御方的策略学习信号。其中 GS-MCTS 组件负责探索多步改写算子的组合,AC-TGPO 组件利用成功频率与路径深度进行难度感知的组相对信用分配。 在六个模型-数据集设定中,MACE 攻击方的 ASR-LR 全部最高;防御方将平均 ASR-LR 从最佳基线的 11.9% 降至 8.8%。
AI 根据报道生成 · 1 小时前更新
最新进展11月18日 13:00
MACE:MCTS 引导的对抗共进化框架,用于 LLM 安全对齐报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv cs.AIMACE:MCTS 引导的对抗共进化框架,用于 LLM 安全对齐
研究者提出 MACE,一个 MCTS 引导的对抗共进化框架,将搜索转化为攻击方与防御方的策略学习信号。其 GS-MCTS 组件探索多步改写算子组合,AC-TGPO 组件利用成功频率与路径深度做难度感知的组相对信用分配。在六个模型-数据集设定中,攻击方 ASR-LR 全部最高,防御方将平均 ASR-LR 从最佳基线的 11.9% 降至 8.8%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。