跳到正文
  1. Microsoft Research62

    微软研究院发布 Magnetar:基于标准哈希函数的通用零知识证明系统

    微软研究院发布零知识虚拟机 Magnetar,可证明 Rust、Go、C 编译后的 RISC-V 程序执行,在 15 个基准程序上平均比现有最快的 zkVM 快 10 到 39 倍,证明验证约 12 毫秒。

    推荐理由:微软研究院公开 Magnetar 的设计与基准数据,可了解零知识证明在通用程序上的效率与密码学取舍。

  1. Apple Machine Learning Research60

    Apple 与约翰霍普金斯提出 SELFCOMPACT:让语言模型智能体自行压缩上下文

    Apple 与约翰霍普金斯大学研究者提出 SELFCOMPACT,让模型自己决定何时以及如何压缩上下文,由模型调用的压缩工具和一份轻量 rubric 两部分组成,无需微调或外部监督。

    推荐理由:论文提出让模型自行决定何时压缩上下文的脚手架,并给出六个基准、七个模型上的成本与效果对比。

  1. Sakana AI Blog62

    Sakana AI 提出 MASS:用多智能体自监督实现递归自我改进

    Sakana AI 发布论文《Recursive Self-Improvement through Multi-Agent Self-Supervision》,提出 MASS 方法:一个共享模型通过虚拟子智能体团队解题,搜索更优的多智能体工作流,再用自身判断选出最佳方案,并把最佳团队的执行轨迹蒸馏回共享模型。

    推荐理由:论文给出多智能体自监督在递归自我改进中的三轮关键结论,并提示同质化自我评估的安全风险。

  1. OpenAI News62

    OpenAI 公布前沿模型在数学开放问题上的进展

    OpenAI 发布内部前沿模型在数学开放问题上的新结果,并在 GitHub 上公开 Lean 证明形式化及相关研究细节。

    推荐理由:OpenAI 公开内部前沿模型在数学开放问题上的结果,并放出 Lean 证明形式化与细节,可看模型推理与形式化验证的结合方式。

  2. Redwood Research60

    前沿模型会因提问者不同而给出不同的决策论偏好

    Redwood Research 的研究发现,用“你认为哪种决策论正确”提问时,前沿模型几乎总是回答 FDT 或 FDT/UDT,但当提示词暗示提问者来自主流学术哲学圈时,同一批模型会有约 30%-100% 的样本改答 CDT。

    推荐理由:同一批前沿模型在学术与 LW 语境下给出不同决策论偏好,为态度类评测的可信度提供了对照数据。

  1. GitHub Blog · AI & ML60

    GitHub 发布 ReviewBench:面向 AI 代码审查的开放基准

    GitHub 发布 ReviewBench,一个面向 AI 代码审查智能体的离线基准,基于 1.039 亿个 GitHub pull request 的分布特征构建,包含来自 187 个开源仓库、覆盖 19 种语言的 219 个 pull request。

    推荐理由:GitHub 公开了代码审查基准的构建方法与评测口径,读者可据此理解 AI 代码审查能力该如何被量化比较。

  1. Microsoft Research62

    微软研究院:把物理 AI 推理卸载出机器人可提升任务成功率与续航

    微软研究院对移动操作机器人工作负载做了系统性测量,发现把物理 AI 推理从机器人端侧 GPU 卸载到边缘或云端 GPU,能提升任务成功率、支持更大的模型并延长续航。

    推荐理由:微软研究院系统测量了机器人端侧 GPU 推理的瓶颈,并给出把推理卸载到边缘或云端的开源工具链,可供机器人开发者参考。

  1. Redwood Research74

    Redwood Research:GPT-6-Astra 用填充 token 推理的能力远超此前模型

    Redwood Research 测量 GPT-6-Astra 在提示词被填充无意义 filler token 且被要求不推理时作答的表现,发现它在需要大量串行认知的任务上明显变好,例如 4-hop 自然事实推理从约 10-20% 提升到约 50%,旧 AIME 题从约 60-70% 提升到约 90%。

    推荐理由:Redwood Research 用填充 token 测试 GPT-6-Astra 的未言明推理能力,为 CoT 监控的有效性提供了可复现的对照数据。

  1. Microsoft Research62

    Microsoft Research 在 Nature 发表逆向合成模型 RetroChimera 并开源

    Microsoft Research 在 Nature 发表逆向合成模型 RetroChimera,用于自动提出小分子合成路线。该框架结合 Transformer 模型 R-SMILES 2 与基于图神经网络和反应模板的 NeuralLoc,用学习式集成重排序融合两者预测,在盲测中化学家更偏好其单步反应预测,十个挑战性目标中九个被专家接受。

    推荐理由:论文发表于 Nature,并开源实现与权重,读者可了解逆向合成模型如何用集成重排序提升路线预测质量。

  1. Google DeepMind80

    Google DeepMind 发布 AlphaGenome Atlas,覆盖人类基因组 90 亿个单字母变异预测

    Google DeepMind 发布 AlphaGenome Atlas,一个包含人类基因组 90 亿个单核苷酸变异效应预测的平台,规模达 1PB,是 AlphaFold Database 的 30 倍以上,已通过网站门户、AlphaGenome API 和 Google Antigravity 中的 skill 开放学术研究免费使用。

    推荐理由:原文给出覆盖 90 亿单核苷酸变异的预计算预测与 AVI 评分,读者可了解基因组变异解读的规模化路径。

  1. OpenAI Alignment 研究博客66

    OpenAI 提出 Contrastive SDF 方法测量模型的奖励寻求行为

    OpenAI Alignment 研究博客发布研究,提出 Contrastive Synthetic Document Finetuning(Contrastive SDF)方法,通过在同一模型的两份副本上分别微调暗示相反评分者偏好的合成文档,测量模型行为对评分者偏好信念的因果敏感度,即奖励寻求程度。

    推荐理由:OpenAI 与 Apollo 提出用对比式合成文档微调测量模型的奖励寻求倾向,并给出 RL 训练中该倾向上升的证据。

  1. OpenAI 部署安全与系统卡62

    OpenAI 发布 GPT-5.6 系统卡

    OpenAI 发布 GPT-5.6 系统卡,将 Sol、Luna、Terra 三个模型在生物与化学领域均按 High 能力处理,但未达到 Critical 阈值。

    推荐理由:系统卡披露了 GPT-5.6 家族在生物化学与网络安全能力上的分级评估,以及部署模拟预测违规率的方法。

  1. OpenAI Alignment 研究博客71

    OpenAI 研究:有益特质强化学习可带来广泛且持久的对齐泛化

    OpenAI Alignment 研究博客发布研究,发现针对诚实、认知谦逊、可纠正性等有益特质做强化学习,能在 53 项内外部基准中的 44 项上超过同等算力基线,改进跨域泛化到训练未涉及的领域。研究构建了覆盖健康、教育、科学、法律等领域的真实对话数据集,将少量有益特质数据混入后训练分布进行 RL 训练。结果显示这些对齐改进在对抗性提示和有害微调下更难被逆转,模型仍对有益指令保持可引导性。

    推荐理由:OpenAI 用真实场景数据做有益特质 RL,展示对齐改进可跨域泛化并在对抗压力下保持,为对齐训练提供可迁移思路。

  1. OpenAI Alignment 研究博客62

    OpenAI 研究:公开聊天数据能否预测真实世界的 AI 失准行为

    OpenAI Alignment 研究团队用私有生产数据验证,基于公开数据集 WildChat 的部署模拟能较准确预测真实失准率。

    推荐理由:OpenAI 用私有生产数据验证公开数据集 WildChat 能否预测真实失准率,并指出智能体场景的预测边界。

  1. OpenAI Alignment 研究博客66

    OpenAI 调查 RL 训练中意外对 CoT 打分的影响

    OpenAI 披露其自动检测系统发现,GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini 和 GPT-5.4 mini 在 RL 训练中曾被意外对 CoT 打分,GPT-5.5 未受影响。

    推荐理由:OpenAI 公开了自家 RL 训练中意外对 CoT 打分的检测系统与影响分析,可供理解 CoT 可监控性为何脆弱。

  1. OpenAI Alignment 研究博客71

    OpenAI 发布 Auto-review:用独立智能体审查 Codex 越界操作

    OpenAI 在 Codex 中上线 Auto-review,用独立的 Codex 智能体在沙箱边界审查越界操作,替代同步人工审批。官方称 Auto-review 模式下 Codex 会话需人工审批的频率比手动审批模式低约 200 倍,被审查的操作中约 99% 获批准,拒绝后 Codex 在超过一半情况下能自行找到可接受的方案。

    推荐理由:OpenAI 公开 Auto-review 的内部部署数据与安全评测结果,可了解用独立智能体替代人工审批的取舍。

已经到底了