研究：越狱攻击成败更取决于预训练随机种子

Chi-Wei Chang等作者发表的研究用25种预训练数据配方、3个预训练种子和2个后训练种子训练出150个1B模型，比较同一批越狱提示词下各模型的不拒答率。结果显示，同一预训练运行的两个后训练副本之间，非拒答率相关性达0.984；换预训练种子后降至0.811，再换数据配方仅进一步降至0.779。 作者据此称，哪些越狱攻击能攻破某个检查点，更多取决于其预训练运行而非数据配方；这一模式在全部25种数据配方以及150M和300M参数规模下均成立。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。