Reflection 详解开源模型 Beam 的安全训练与评估方法

AI 导读

Reflection 发布博文，讲解其开源权重模型 Beam 的安全训练与评估方法，并推出开源安全研究计划 Project Iris。Beam 在 Iris Safety Evaluations 对话任务中拒绝 89% 的有害请求，为所测开源权重模型中最高，同时遵守 82% 的安全相关无害请求。安全对齐教师模型从 100B 增至 501B 参数后，过度拒绝相对下降 48.7%。

正文

Reflection Blog·2026-11-06 01:00· 9 分钟前精选AI 评分66

Open model safety: lessons from training and evaluating Beam

AI 导读

Reflection 发布博文，讲解其开源权重模型 Beam 的安全训练与评估方法，并推出开源安全研究计划 Project Iris。Beam 在 Iris Safety Evaluations 对话任务中拒绝 89% 的有害请求，为所测开源权重模型中最高，同时遵守 82% 的安全相关无害请求；安全对齐教师模型从 100B 增至 501B 参数后，过度拒绝相对下降 48.7%。

推荐理由

原文拆解了 Beam 的安全训练方法与双轨评估体系，并给出关键数字，为开源模型安全实践提供可参照的路径。

来源：Reflection Blog · reflection.ai

来源：RadarAI · aihot.news