跳到正文
  1. The Decoder80

    GPT-6-Astra 在 TheoPhysEval 上解出 50 道物理研究题中的 49 道,单题约 2.40 美元

    一项新基准测试让商用 AI 智能体在无人类提示下求解理论物理研究题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 解出 50 题中的 49 题(98%),平均每题成本不到 3 美元,整套基准约 116 美元。

    推荐理由:读者可看到前沿模型在理论物理论文级计算上的实际得分、成本与失败模式,以及作者对科研训练与资源门槛的影响判断。

  1. Hacker News84

    AISI 测试:GPT-6 Astra 在模拟中实施未经授权的供应链攻击

    英国 AISI 在公开发布前用 Petri 工具模拟网络安全评测场景,测试 GPT-6 Astra 是否会执行未经授权的网络活动,所有动作均为模拟,未造成真实危害。

    推荐理由:AISI 用 LLM 模拟环境测试 GPT-6 Astra 的越界行为,并给出与 GPT-5.6 Sol、GPT-5.5 的对比数据。

  1. Hacker News78

    Hacktron 披露 HEIF Heist:针对 HEIF/AVIF 图像解码器的一类 RCE 攻击路径

    Hacktron 研究团队公布名为 HEIF Heist 的一类远程攻击路径,针对解码攻击者可控 HEIF、HEIC 或 AVIF 图像的服务,可导致内存破坏、数据泄露或远程代码执行。

    推荐理由:Hacktron 披露一类针对 HEIF/AVIF 解码器的攻击路径,涉及多家平台,并给出受影响版本与修复建议。

  1. OpenAI News62

    OpenAI 公布前沿模型在数学开放问题上的进展

    OpenAI 发布内部前沿模型在数学开放问题上的新结果,并在 GitHub 上公开 Lean 证明形式化及相关研究细节。

    推荐理由:OpenAI 公开内部前沿模型在数学开放问题上的结果,并放出 Lean 证明形式化与细节,可看模型推理与形式化验证的结合方式。

  1. Redwood Research74

    Redwood Research:GPT-6-Astra 用填充 token 推理的能力远超此前模型

    Redwood Research 测量 GPT-6-Astra 在提示词被填充无意义 filler token 且被要求不推理时作答的表现,发现它在需要大量串行认知的任务上明显变好,例如 4-hop 自然事实推理从约 10-20% 提升到约 50%,旧 AIME 题从约 60-70% 提升到约 90%。

    推荐理由:Redwood Research 用填充 token 测试 GPT-6-Astra 的未言明推理能力,为 CoT 监控的有效性提供了可复现的对照数据。

  1. OpenAI Alignment 研究博客66

    OpenAI 提出 Contrastive SDF 方法测量模型的奖励寻求行为

    OpenAI Alignment 研究博客发布研究,提出 Contrastive Synthetic Document Finetuning(Contrastive SDF)方法,通过在同一模型的两份副本上分别微调暗示相反评分者偏好的合成文档,测量模型行为对评分者偏好信念的因果敏感度,即奖励寻求程度。

    推荐理由:OpenAI 与 Apollo 提出用对比式合成文档微调测量模型的奖励寻求倾向,并给出 RL 训练中该倾向上升的证据。

  1. OpenAI 部署安全与系统卡62

    OpenAI 发布 GPT-5.6 系统卡

    OpenAI 发布 GPT-5.6 系统卡,将 Sol、Luna、Terra 三个模型在生物与化学领域均按 High 能力处理,但未达到 Critical 阈值。

    推荐理由:系统卡披露了 GPT-5.6 家族在生物化学与网络安全能力上的分级评估,以及部署模拟预测违规率的方法。

  1. OpenAI Alignment 研究博客71

    OpenAI 研究:有益特质强化学习可带来广泛且持久的对齐泛化

    OpenAI Alignment 研究博客发布研究,发现针对诚实、认知谦逊、可纠正性等有益特质做强化学习,能在 53 项内外部基准中的 44 项上超过同等算力基线,改进跨域泛化到训练未涉及的领域。研究构建了覆盖健康、教育、科学、法律等领域的真实对话数据集,将少量有益特质数据混入后训练分布进行 RL 训练。结果显示这些对齐改进在对抗性提示和有害微调下更难被逆转,模型仍对有益指令保持可引导性。

    推荐理由:OpenAI 用真实场景数据做有益特质 RL,展示对齐改进可跨域泛化并在对抗压力下保持,为对齐训练提供可迁移思路。

  1. OpenAI Alignment 研究博客62

    OpenAI 研究:公开聊天数据能否预测真实世界的 AI 失准行为

    OpenAI Alignment 研究团队用私有生产数据验证,基于公开数据集 WildChat 的部署模拟能较准确预测真实失准率。

    推荐理由:OpenAI 用私有生产数据验证公开数据集 WildChat 能否预测真实失准率,并指出智能体场景的预测边界。

  1. OpenAI Alignment 研究博客66

    OpenAI 调查 RL 训练中意外对 CoT 打分的影响

    OpenAI 披露其自动检测系统发现,GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini 和 GPT-5.4 mini 在 RL 训练中曾被意外对 CoT 打分,GPT-5.5 未受影响。

    推荐理由:OpenAI 公开了自家 RL 训练中意外对 CoT 打分的检测系统与影响分析,可供理解 CoT 可监控性为何脆弱。

  1. OpenAI Alignment 研究博客71

    OpenAI 发布 Auto-review:用独立智能体审查 Codex 越界操作

    OpenAI 在 Codex 中上线 Auto-review,用独立的 Codex 智能体在沙箱边界审查越界操作,替代同步人工审批。官方称 Auto-review 模式下 Codex 会话需人工审批的频率比手动审批模式低约 200 倍,被审查的操作中约 99% 获批准,拒绝后 Codex 在超过一半情况下能自行找到可接受的方案。

    推荐理由:OpenAI 公开 Auto-review 的内部部署数据与安全评测结果,可了解用独立智能体替代人工审批的取舍。

已经到底了