Reflection 公布 Beam 安全训练与评估方法

Reflection 发布博文，公开其开源权重模型 Beam 的安全训练与评估方法，并推出开源安全研究计划 Project Iris。 据 Reflection 称，在 Iris Safety Evaluations 的对话任务中，Beam 拒绝了 89% 的有害请求，在所测开源权重模型中比例最高；同时，它遵守了 82% 的安全相关无害请求。Reflection 还称，将安全对齐教师模型的参数规模从 100B 增至 501B 后，过度拒绝相对下降 48.7%。 上述比例与降幅均为 Reflection 公布的数据，并非独立验证的结果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。