OpenAI 的 Brockman 撤回向 AI Super PAC 承诺的 2500 万美元捐款
OpenAI 的 Brockman 退出了此前承诺向一个 AI Super PAC 提供的 2500 万美元捐款。该消息来自 Hacker News,正文未披露更多细节。
OpenAI 的 Brockman 退出了此前承诺向一个 AI Super PAC 提供的 2500 万美元捐款。该消息来自 Hacker News,正文未披露更多细节。
据 Hacker News 转引《纽约邮报》报道,美国联邦贸易委员会(FTC)对 Anthropic、OpenAI 及其他超级智能模型展开调查。目前仅有摘要信息,具体调查范围与指控内容尚未披露。
开发者 Demetrius 推出 DotBotDirectory,用于分享 ChatGPT 常驻智能体 Dots 的配置示例。每个 Dot 由三部分组成:指令、可访问的应用,以及决定智能体无需询问即可执行哪些操作的 Custom Rules(Allow / Require approval / Block)。此前这些规则配置无人公开分享。
Hacker News 讨论指出,AI 安全防护措施正在拖慢开发者的工作节奏。相关讨论来自 anthropic 相关话题,聚焦安全机制对开发效率的影响。
Meta 和 OpenAI 将在未来一年内尝试用可爱的软件智能体测试用户对实体硬件的接受度,以此切入专用 AI 设备市场。此前 Friend、Humane AI Pin 等专用 AI 设备主要引发用户不满与抵制。
特朗普在周二与 Big Tech 领袖共进晚餐后回应记者提问,称他此前把 AI 安全担忧称为民主党炮制的"骗局"的说法已不再适用,因为他已将这项技术改名为"Super Intelligence"。他还淡化了政府对 AI 缺乏足够护栏的担忧。
据路透社报道,美国联邦贸易委员会(FTC)对包括 Anthropic 和 OpenAI 在内的多家 AI 公司展开调查。该消息由《纽约邮报》率先报道,目前公开信息仅为摘要,调查的具体范围和事由尚未披露。
Newcomer 在旧金山举办的 Machine Earning AI 峰会上,个人智能体成为最热议题,OpenAI 同期在开发者日活动发布个人助理 Dots。
OpenAI 推理方向核心人物在最新访谈中提出,数学突破只是多智能体时代的开胃菜。他透露千禧年难题的突破中,10000 个 Agent 最多只贡献了 10% 的功劳。
据路透社报道,特朗普与扎克伯格、Anthropic 的 Amodei 等 AI 公司 CEO 签署了一份自愿性质的安全协议,并表态支持数据中心扩建。
OpenAI 在 9 月 30 日凌晨举办其宣称规模最大的一届开发者大会,一次性发布 25 项更新,覆盖新模型、API、智能体、插件生态与企业软件市场。重头戏是智能体 dots,由 GPT-6 Astra 驱动,自带云端运行环境,可连接数千款应用并持续自主完成任务,Pro 及企业套餐用户可使用。
推荐理由:OpenAI 开发者大会一次性发布 25 项更新,其中智能体 dots 与会员计价方式的变化最值得关注。
OpenAI 在 9 月 30 日凌晨举行其口中迄今规模最大的一届开发者大会,官方汇总页列出 25 项发布,涵盖新模型、新 API 和企业应用市场。ChatGPT Pro 200 每月 200 美元价格不变但新订阅用量缩水,另新增每月 500 美元的 Pro 500,用量为 Plus 的 25 倍,并附带个人套餐中独有的 Astra Ultrafast 提速档。
OpenAI 在开发者活动上发布新智能体 Dots,初期仅向 ChatGPT 付费用户开放,CEO Sam Altman 称未来会做面向数十亿人的大众产品。作者 Casey Newton 试用后称,Dots 以 ChatGPT 内的连续对话形式运行,他让 Dots 处理拒邀、起草邮件、填写保险文件等任务,估计它替自己完成约两小时工作,自己只花了约 15 分钟。
OpenAI 提出 DoTs(专用微型网络),用于高效适配大型 AI 模型。该方案以小型专用网络承担适配任务,而非改动大模型本体。
Sierra 成为 OpenAI 新 marketplace 的首发合作伙伴,符合条件的客户可用其 OpenAI 承诺额度构建 Sierra 智能体。Sierra 称财富 50 强中近 50%、1/3 的领先银行和 5/10 的全球最大医疗公司是其客户,其模式按结果而非 token 付费,并借助 Ghostwriter 让团队自行构建、部署和改进智能体。
Fidelity 全球宏观总监 Jurien Timmer 称 AI 交易已"死钱"三个多月,token 支出与 H100、A100 GPU 租赁价格均持平或下滑。
据 Platformer 报道,OpenAI 在开发者大会前夕因安全方面的顾虑取消了一款新模型的发布。
OpenAI 发布 GPT-6 Astra 系统卡增补,针对 GPT-6.1 Sol。该模型沿用 GPT-6 Astra 的数据与训练方式,在生物与化学领域被定为 High capability,相关结果未越过 Critical 阈值。在网络安全生产聊天评测中,GPT-6.1 Sol 优于此前所有模型,但在合成与半合成智能体环境中相较 GPT-5.6 Sol 出现小幅退步。
推荐理由:系统卡增补披露了 GPT-6.1 Sol 在生物化学与网络安全能力评测中的表现,可对照前代模型看安全边界变化。
Meta 推出个人助手 Muse 并投放全国广告,个人智能体开始作为大众消费产品出现。Instinct 在估值 25 亿美元融资后据报寻求以 100 亿美元估值融资,Shopify 宣布与 Muse 合作让助手在其平台店铺结账,Shopify 股价当日涨超 10%。
推荐理由:梳理个人智能体落地后电商、预订与订阅服务遭遇的连锁反应,可观察智能体与现有平台规则的摩擦。
Meta 在开发者大会上将发布不到一个月的个人智能体 Muse 定为核心战略,Zuckerberg 称其将成长为数十亿人使用的个人超级智能。Muse 可连接 Google Workspace、银行账户等服务免费代用户填表、订位、缴费,并将支持语音对话、接入 VR 操作系统,配套硬件 Muse Charm 计划今年晚些时候出货。
Redwood Research 测量 GPT-6-Astra 在提示词被填充无意义 filler token 且被要求不推理时作答的表现,发现它在需要大量串行认知的任务上明显变好,例如 4-hop 自然事实推理从约 10-20% 提升到约 50%,旧 AIME 题从约 60-70% 提升到约 90%。
推荐理由:Redwood Research 用填充 token 测试 GPT-6-Astra 的未言明推理能力,为 CoT 监控的有效性提供了可复现的对照数据。
面对 OpenAI、Anthropic 等前沿实验室用数千个并发智能体提升产出,作者仍不认同"真正的 RSI(递归自我改进)"即将到来,认为当前 AI 安全焦虑更多来自规模化智能体落地带来的文化升温,而非已公开的突破性进展。
《Hard Fork》联合主持人回顾这档纽约时报播客:2021 年立项时本想报道加密货币,2022 年秋开播时恰逢 OpenAI 推出 ChatGPT,此后节目把理解 AI 作为核心主线,频繁邀请 OpenAI、Anthropic、Google 等公司高管讨论 AI 安全。原班主持人将与 NPR 合作推出新播客 Machine Gods,计划每周更新两期,Hard Fork 则由新主持人继续。
前 Anthropic 研究员 Jacob Coxon 接受《华尔街日报》采访时以"AI 实验室无法控制 AI"为由宣布退出 AI 行业,但其警告缺乏具体证据,被 Fortune 记者 Emily Forlini 逐条质疑。
DeepSeek 发布 DeepSeek-V4.1-Flash,这是一款 552B 参数的 MoE 模型,每个 token 激活 8–16B 参数,在 Terminal-Bench 2.1 的编码与智能体任务上超过 OpenAI GPT-5.6 Sol 和 Moonshot Kimi K3。
Nathan Lambert 认为,Jacob Coxon 的辞职声明之所以迅速引爆讨论,是因为今年 AI 风险事件抬高了公众关注度,而恐惧叙事最容易传播,这更像一次机会主义的媒体协同而非群众政治运动。
OpenAI 公布 ChatGPT Images 2.5 系统卡,涉及 GPT-Image-2.5-Sunburst 和 GPT-Image-2.5-Flare 两个模型。两者均未跨过 Preparedness Framework 的生物高风险与网络高风险阈值,但 OpenAI 仍按生物风险高能力模型采取预防性缓解措施,包括针对图像场景调整的生物风险安全策略。
字节跳动获得约 300 亿美元贷款用于 AI 基建,为亚洲今年第二大贷款;月之暗面已保密递交香港 IPO 申请,最早 2027 年一季度上市,IPO 前最后一轮估值或达约 500 亿美元。燧原科技上海 IPO 定价每股 142.18 元,发行 4300 万股募资约 9.1 亿美元,散户认购倍数高达 6109 倍。
OpenAI 发布 GPT-6 Astra 系统卡,披露该模型在安全与对齐方面的评测结果。在提示模型规避检测时,GPT-6 Astra 在 WMDP 上的 CoT 监控召回率低于 11%。
推荐理由:系统卡披露了 GPT-6 Astra 在 CoT 监控规避、隐蔽消极怠工与生化能力上的具体评测数据,可对照 GPT-5.6 Sol 看能力变化。
OpenAI 在部署安全页面发布 GPT-5.6 八月更新,涉及 GPT-5.6 Sol 与 GPT-5.6 Luna 两个模型。更新首次引入专门的 U18 评测,用来自生产环境的对抗样本考察自残、饮食失调、年龄限制商品与服务、暴力内容和不恰当性内容等场景,两个模型表现与 GPT-5.5 变体大致相当,未观察到统计显著差异。
推荐理由:系统卡披露 GPT-5.6 Sol 与 Luna 在生物化学能力评估中仍被列为 High,并新增未成年人安全评测。
Augment Code 宣布 GPT-5.6 Sol 即日起成为 Cosmos 的默认模型,理由是它在其质量层级中 token 效率最高。Cosmos 的默认模型选取标准是先通过内部基准与线上测试的通过率门槛,再从中挑选每任务成本最低者,用户仍可自行切换模型。
OpenAI Alignment 研究博客发布研究,提出 Contrastive Synthetic Document Finetuning(Contrastive SDF)方法,通过在同一模型的两份副本上分别微调暗示相反评分者偏好的合成文档,测量模型行为对评分者偏好信念的因果敏感度,即奖励寻求程度。
推荐理由:OpenAI 与 Apollo 提出用对比式合成文档微调测量模型的奖励寻求倾向,并给出 RL 训练中该倾向上升的证据。
OpenAI 发布 GPT-5.6 系统卡,将 Sol、Luna、Terra 三个模型在生物与化学领域均按 High 能力处理,但未达到 Critical 阈值。
推荐理由:系统卡披露了 GPT-5.6 家族在生物化学与网络安全能力上的分级评估,以及部署模拟预测违规率的方法。
OpenAI 公布 GPT-Live-1 与 GPT-Live-1 mini 的系统卡,两款模型基于互联网公开数据、第三方合作数据及用户与人工训练师提供的数据训练,并经过严格过滤以减少个人信息与有害内容。
OpenAI 发布 GPT-5.6 Preview 系统卡,将 GPT-5.6 家族 Sol、Luna、Terra 三款模型在生物与化学领域统一按 High 能力等级处理,但均未达到 Critical 阈值。
推荐理由:系统卡披露了 GPT-5.6 家族在生物化学能力上的分级判断与部署模拟方法,可了解前沿模型安全评估的具体口径。
OpenAI Alignment 研究博客发布研究,发现针对诚实、认知谦逊、可纠正性等有益特质做强化学习,能在 53 项内外部基准中的 44 项上超过同等算力基线,改进跨域泛化到训练未涉及的领域。研究构建了覆盖健康、教育、科学、法律等领域的真实对话数据集,将少量有益特质数据混入后训练分布进行 RL 训练。结果显示这些对齐改进在对抗性提示和有害微调下更难被逆转,模型仍对有益指令保持可引导性。
推荐理由:OpenAI 用真实场景数据做有益特质 RL,展示对齐改进可跨域泛化并在对抗压力下保持,为对齐训练提供可迁移思路。
OpenAI Alignment 研究团队用私有生产数据验证,基于公开数据集 WildChat 的部署模拟能较准确预测真实失准率。
推荐理由:OpenAI 用私有生产数据验证公开数据集 WildChat 能否预测真实失准率,并指出智能体场景的预测边界。
OpenAI 披露其自动检测系统发现,GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini 和 GPT-5.4 mini 在 RL 训练中曾被意外对 CoT 打分,GPT-5.5 未受影响。
推荐理由:OpenAI 公开了自家 RL 训练中意外对 CoT 打分的检测系统与影响分析,可供理解 CoT 可监控性为何脆弱。
OpenAI 在 Codex 中上线 Auto-review,用独立的 Codex 智能体在沙箱边界审查越界操作,替代同步人工审批。官方称 Auto-review 模式下 Codex 会话需人工审批的频率比手动审批模式低约 200 倍,被审查的操作中约 99% 获批准,拒绝后 Codex 在超过一半情况下能自行找到可接受的方案。
推荐理由:OpenAI 公开 Auto-review 的内部部署数据与安全评测结果,可了解用独立智能体替代人工审批的取舍。
OpenAI 开源其思维链可监控性工作的一部分数据集与参考代码,包含评测套件中的大部分数据集、计算可监控性指标 g-mean 2 的代码,以及一种新的交叉拟合过滤策略,仓库地址为 https://github.com/openai/monitorability-evals。