WRDO:用加权聚合方向优化语言模型拒绝行为
热点事件持续更新
WRDO:用加权聚合方向优化语言模型拒绝行为
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
Grigoriy Evseev 等作者提出加权拒绝方向优化(WRDO):从逐提示方向库中用学习到的聚合权重构建复合拒绝方向,使不同有害提示对最终干预方向的贡献不相等。研究在三个开源权重模型上,以三个 guard judges 和 HarmBench 作为外部评估器,与单方向方法对比,并用标准效用基准测量对通用能力的影响;同一优化机制还被反向用于恢复 abliterated 模型检查点的拒绝行为。上述对比与效用结果由作者报告,尚待独立验证。
AI 根据报道生成 · 2 小时前更新
最新进展10月22日 12:00
WRDO:对齐语言模型中的加权拒绝方向优化报道时间线
沿着报道,了解事件的不同侧面。
10月22日
- arXiv cs.CLWRDO:对齐语言模型中的加权拒绝方向优化
研究者提出加权拒绝方向优化(WRDO),用学习到的聚合权重从逐提示方向库中构建复合拒绝方向,让不同有害提示对最终干预方向贡献不等。在三个开源权重模型上,以三个 guard judges 和 HarmBench 作为外部评估器对比此前单方向方法,并通过标准效用基准测量对通用能力的影响。研究还将同一优化机制反向用于恢复 abliterated 模型检查点的拒绝行为。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。