OpenAI 研究：公开聊天数据能否预测真实世界的 AI 失准行为
OpenAI Alignment 研究团队用私有生产数据验证，基于公开数据集 WildChat 的部署模拟能较准确预测真实失准率。
推荐理由：OpenAI 用私有生产数据验证公开数据集 WildChat 能否预测真实失准率，并指出智能体场景的预测边界。
内容形态
论文研究 最新动态
值得读的 AI 论文与研究成果：架构创新、训练方法、能力测量与理论进展的精选解读。
63 条精选近 30 天 39 条共收录 12,655 条
更新
精选归档 · 第 4 页
OpenAI Alignment 研究博客精选AI 评分6262
OpenAI Alignment 研究博客精选AI 评分6666 OpenAI 调查 RL 训练中意外对 CoT 打分的影响
OpenAI 披露其自动检测系统发现，GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini 和 GPT-5.4 mini 在 RL 训练中曾被意外对 CoT 打分，GPT-5.5 未受影响。
推荐理由：OpenAI 公开了自家 RL 训练中意外对 CoT 打分的检测系统与影响分析，可供理解 CoT 可监控性为何脆弱。
OpenAI Alignment 研究博客精选AI 评分7171 OpenAI 发布 Auto-review：用独立智能体审查 Codex 越界操作
OpenAI 在 Codex 中上线 Auto-review，用独立的 Codex 智能体在沙箱边界审查越界操作，替代同步人工审批。官方称 Auto-review 模式下 Codex 会话需人工审批的频率比手动审批模式低约 200 倍，被审查的操作中约 99% 获批准，拒绝后 Codex 在超过一半情况下能自行找到可接受的方案。
推荐理由：OpenAI 公开 Auto-review 的内部部署数据与安全评测结果，可了解用独立智能体替代人工审批的取舍。