RadarAI· X:OpenAI (@OpenAI)·· 1 天前AI 评分52
OpenAI 与 Apollo Research 合作评估模型隐蔽背离风险
OpenAI 与 Apollo 评估模型隐蔽背离风险
AI 导读
OpenAI 宣布由 Apollo Research 评估其模型是否会暗中违背开发者意图行事,以及现有防护措施能否检测到这类行为。评估将审查来自训练、安全测试和内部使用的证据,以检验该行为并测试 OpenAI 捕捉它的能力。
正文 · AI 翻译
OpenAI· @OpenAI · X·2026-11-17 00:03· 51 分钟前AI 评分44
AI 导读
@ApolloResearch 将评估我们的模型是否会暗中违背开发者的意图行事——以及我们的防护措施能否检测到这种行为。 它将审查来自训练、安全测试和内部使用的证据,以检验这种行为以及我们捕捉它的能力。
正文 · 原文
@ApolloResearch 将评估我们的模型是否会暗中违背开发者的意图行事——以及我们的防护措施能否检测到这种行为。
它将审查来自训练、安全测试和内部使用的证据,以检验这种行为以及我们捕捉它的能力。
来源:OpenAI · x.com
来源:RadarAI · aihot.news