METR与Redwood红队测试OpenAI监控系统

METR与Redwood Research各派一名研究员，于7月21日至8月11日对OpenAI内部失准监控系统进行为期三周的高权限红队压力测试，产出61页内部报告，但对外只发布简短的高层总结。三方称，这次演练旨在试点让外部研究者深度接触内部基础设施，并非为了公开透明地展示OpenAI的监控系统。 测试针对的是截至7月21日已存在的系统，未评估当时正在进行的改动。OpenAI称，已修补测试发现的所有影响其生产防护体系的漏洞。 据RadarAI报道，两名研究员可访问OpenAI内部代码库、失准监控提示词与配置详情及内部文档，并与监控、安全系统和安保团队约十几名研究人员和工程师进行技术访谈；他们使用OpenAI配发的设备、全程在办公场所并有人陪同。一份经OpenAI删减的38页版本已与METR和Redwood领导团队共享。

AI 根据报道生成 · 48 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。