Redwood Research 发布模拟控制评估论文

Redwood Research 发布论文，提出模拟控制评估（SCE）方法：用 LLM 环境模拟器伪造工具返回结果，在不实际执行攻击的情况下评估监控能否拦住智能体的有害行为。 Redwood Research 称，SCE 不预期能揭示模型危险能力的极限，也不覆盖模型可能尝试的所有攻击；最明显的缺口是长时程、多智能体攻击，目前尚未为此搭建模拟器。

AI 根据报道生成 · 54 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。