跳到正文
热点事件持续更新

WRDO:用加权聚合方向优化语言模型拒绝行为

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

Grigoriy Evseev 等作者提出加权拒绝方向优化(WRDO):从逐提示方向库中用学习到的聚合权重构建复合拒绝方向,使不同有害提示对最终干预方向的贡献不相等。研究在三个开源权重模型上,以三个 guard judges 和 HarmBench 作为外部评估器,与单方向方法对比,并用标准效用基准测量对通用能力的影响;同一优化机制还被反向用于恢复 abliterated 模型检查点的拒绝行为。上述对比与效用结果由作者报告,尚待独立验证。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. arXiv cs.CL
    WRDO:对齐语言模型中的加权拒绝方向优化

    研究者提出加权拒绝方向优化(WRDO),用学习到的聚合权重从逐提示方向库中构建复合拒绝方向,让不同有害提示对最终干预方向贡献不等。在三个开源权重模型上,以三个 guard judges 和 HarmBench 作为外部评估器对比此前单方向方法,并通过标准效用基准测量对通用能力的影响。研究还将同一优化机制反向用于恢复 abliterated 模型检查点的拒绝行为。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。