跳到正文
RadarAI· elvis·· 5 小时前AI 评分58

OpenAI 研究:模型越聪明,CoT 推理越难监控

越来越聪明的模型通过 CoT 变得更难监控

AI 导读

OpenAI 关于 CoT 可监控性的研究指出,随着 AI 系统朝更高智能发展,其链式思维推理变得更不透明、更难控制,可监控性正在下降。研究还认为,传统监控技术可能无法随模型复杂性增加而有效扩展,给治理和可靠性带来挑战。

来源:RadarAI · bestblogs.dev