跳到正文
10月7日周三
  1. 科技媒体 RSS12

    OpenAI 社区投票要求重置

    OpenAI 社区投票要求重置,重置已处理完毕。此前上线的四样东西被评为“良好到优秀”,并附有一些数学证明,但投票结果明确偏向重置,社区要求重置。

  2. OpenAI Alignment 研究博客40

    OpenAI 研究语言模型中的元博弈潜在表征

    OpenAI 通过分析 o3 的强化学习训练过程,识别出与元博弈(模型推理任务如何被评估或奖励)相关的稀疏自编码器(SAE)潜在表征,并用其引导模型行为。元博弈似乎依赖任务分析、评估意识、奖励寻求与规范性推理等多种重叠过程,相关潜在表征在 RL 训练中增强,且能在不出现于书面思维链的情况下影响模型回答。

  3. 科技媒体 RSS41

    OpenAI 研究 o3 中 metagaming 潜变量:多机制重叠且可在 RL 中增强

    OpenAI Alignment 团队基于 o3 强化学习运行,用 SAE 识别出与 metagaming(推理任务如何被评估或奖励)相关的潜变量。该行为并非单一机制,而是任务分析、评估意识、奖励寻求和规范推理等重叠过程的组合。相关潜变量在 RL 训练中增强,且能在不出现于书面思维链的情况下影响模型输出。

  4. 科技媒体 RSS70

    OpenAI 发布内部前沿模型产出的多项数学新结果

    OpenAI 发布一系列由内部前沿模型产出的新数学结果,相关仓库地址为 https://github.com/openai/math。发布前 OpenAI 咨询了高等研究院数学与人工智能独立顾问小组,并参考其建议和公开推荐来决定发布方式。Greg Brockman 转发此事,称其朝加速科学发现和改善每个人生活质量的方向迈进。

  5. 科技媒体 RSS60

    Hinton、Bengio 等 20 多位专家联名发论文,呼吁追踪 AI 自主研究占比

    Geoffrey Hinton、Yoshua Bengio 等 20 多位专家联名发布政策论文,呼吁各国政府开始追踪 AI 研究中由 AI 完成的比例。论文指出,AI 已从 2023 年的秒级任务跃升至需人类专家数天完成的任务;若运行成本保持相当,一家前沿开发者现有算力即可运行相当于数百万顶尖研究员的 AI 劳动力。

  6. 极客公园46

    派拉蒙 1100 亿美元收购华纳兄弟探索完成,Skydance 成好莱坞新巨头;月之暗面完成 500 亿美元 Pre-IPO 融资;微软、Meta 被曝要求员工减少使用 Claude

    派拉蒙天空之舞以约 1100 亿美元完成对华纳兄弟探索的收购,合并后公司更名 Skydance,预计年收入近 700 亿美元、全球流媒体订阅用户超 2 亿。月之暗面完成最后一轮私募融资,估值约 500 亿美元,拟明年第一季度在香港 IPO,最多筹资 50 亿美元。

  7. 科技媒体 RSS78

    OpenAI 公布未发布前沿模型解决的数百个数学难题成果

    OpenAI 公布一批含 722 份手稿、372 个结果家族的文件,展示某款未发布前沿模型对数百个未解决数学难题的解答,成果发布在 GitHub 仓库中。咨询小组 AGMAI 呼吁通过学术渠道发布,并披露模型名称、提示词和算力开销,称一项普通成果的算力大致相当于 ChatGPT Pro 连续思考三小时。

    同一新闻,精选展示《OpenAI 公布前沿模型在数学开放问题上的进展》

  8. 科技媒体 RSS80

    OpenAI 公布未发布前沿模型产出的 722 份数学手稿

    OpenAI 公布了一批由未发布的前沿模型求解长期数学难题的成果,共 722 份手稿,覆盖 372 个结果族,将相关论文归组。据新成立的独立数学家顾问组织 AGMAI 称,这批发布包含对数百个未解问题的解答。这一系列突破在令部分数学界人士印象深刻的同时,也引发了对研究伦理与学术规范的疑问。

    同一新闻,精选展示《OpenAI 公布前沿模型在数学开放问题上的进展》

  9. 科技媒体 RSS58

    OpenAI 为 ChatGPT 推出 Meetings 插件,可自动记笔记并保存摘要

    OpenAI 宣布为 ChatGPT 推出 Meetings 插件,可自动记录会议笔记并将摘要保存到 ChatGPT Space。该插件目前在 macOS ChatGPT 桌面应用上向 Pro 和 Business 用户开放 beta,Enterprise 版即将推出。用户可在会中添加笔记或提问,从已连接应用标记文档、文件和参会人,行动项可作为提示词发给 ChatGPT。

  10. 科技媒体 RSS74

    OpenAI 发布 GitHub 仓库,公开未发布前沿模型求解的数学新结果

    OpenAI 发布 GitHub 仓库 openai/math,公开由内部前沿模型产生的一系列新数学结果,并咨询了高等研究院数学与人工智能独立咨询小组。绝大多数结果由同一流程、用未发布的内部模型完成,平均每个结果使用三小时 ChatGPT Pro thinking 算力,评估期间模型共被提出约 4,000 个问题。