研究提出安全探针性能的缩放定律

Yuchen Wu 等研究者发表论文称，安全探针的误差（1 - AUROC）遵循两条缩放定律：模型可达的最低误差随模型规模呈幂律下降；误差随标签数增加向该下限收敛，且收敛斜率随目标模型规模增大。 研究构建了六个规模与难度足够的新安全数据集，在五个模型家族的 20 个基座模型上训练两种探针架构，每个模型使用 32 至 10^6 个标签。据此，研究者提出可用模型规模与标签量预测探针性能。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。