OpenAI部署控制室系统叫停失控AI智能体

OpenAI宣布已在内部研究设施部署“控制室”系统，用于叫停可能存在风险的AI任务，可在收到停止指令后最长35秒内阻止失控AI智能体继续输出。 按OpenAI的说法，研究员启用任务需先向控制室请求唯一任务ID并附加到推理请求，由控制室确认任务能否运行；停止时控制室拒绝下一次推理请求。延迟来自推理授权请求的缓存层，公司称正努力缩短至0。所有前沿强化学习任务还配备独立模型监控器，检查模型行为并在发现潜在问题时发出警报。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。