研究者提出EOPSA安全对齐方法

Qirui Liu等作者提出EOPSA（高效在策略自蒸馏安全对齐）方法，针对在策略自蒸馏安全对齐中的监督崩塌与梯度稀释两大瓶颈，将计算和梯度预算集中到安全关键token上。 据作者描述，EOPSA只对可靠监督的安全关键token投入计算与梯度资源，以此缓解上述两个问题。目前报道未给出该方法在具体模型或基准上的效果数据。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。