辛顿提议 AI 行业建立 FDA 式审批机制:模型推出前需通过安全审核
Geoffrey Hinton 在《Smart Girl Dumb Questions》播客中建议,AI 公司在产品发布前须向监管机构证明安全性,类比新药需说服 FDA、投入约十亿美元级别。他指出 AI 递归式自我改进会放大风险,并推测距局面远比现在糟糕大概只剩一两年。背景之一是 OpenAI 因权限与行为日志方面的担忧搁置了最新模型 GPT-6.1 Astra。
Geoffrey Hinton 在《Smart Girl Dumb Questions》播客中建议,AI 公司在产品发布前须向监管机构证明安全性,类比新药需说服 FDA、投入约十亿美元级别。他指出 AI 递归式自我改进会放大风险,并推测距局面远比现在糟糕大概只剩一两年。背景之一是 OpenAI 因权限与行为日志方面的担忧搁置了最新模型 GPT-6.1 Astra。
Jacob Coxon 在纽约市议会听证会上表示,自动化 AI 研究员大约在 2027 或 2028 年出现,一旦 AI 研究实现自动化,人类将比今天远远更远离循环。相关证词完整视频见 Forbes Breaking News 的 YouTube 频道。
两年前 GPT-4o 连"9.9 > 9.11?"都答错,如今 AI 已能应对最难的数学题。文章以这一对比呈现 AI 数学能力在两年间的巨大变化。
swyx 分享了对 Devin 的使用体验,并回顾自己 2024 年发推时就像活在 2026 年一样。
AI 将给科学带来两场革命:一是所有已发表的科研成果都将被重新阅读和重新评判,方式是人类科学家从未预料到的;二是新发现将开始快速涌现。文章认为,在经历了一个短暂但侵蚀科研体制的"垃圾科学"时代之后,这一趋势已越来越明显。
Lee Robinson 感叹 AI 进展全面加速,称每一款游戏都在被反编译、每一道数学题都在被解出,一切都在同时发生。他提醒人们回看过去一年的进展,并想象再过一年、再一年的变化。
Francois Chollet 提出,AI 能力的"锯齿状前沿"可能主要来自数学和代码——这两者可通过 RLVR 无限推进,而其他领域因受限于人类生成数据开始进入平台期。他指出非可验证领域的模型表现虽持续提升,但远慢于数学和代码,其提升究竟来自 RLVR 驱动的高 G,还是仅源于仍在海量注入的新人类数据,答案将决定很多事。
好莱坞明星 Ben Affleck 公开抨击声称 AI 将消灭一半白领工作的 AI 领袖,认为这种说法无助于激发人们采用其产品。他表示困惑于这类言论竟被当成新鲜事,相关完整视频发布在 YouTube 频道 "One More Question"。
在伯克利举行的 The Curve 大会上,多位发言者提出应考虑限制大语言模型的智能上限,若严格执行可能等同于禁止系统达到超人智能。Anthropic CEO Dario Amodei 此前已呼吁对递归自我改进设置"某种限速",而现有任何限制方案都缺乏可执行机制,单个实验室和国家都无法单独实施,当前美国政府也明确反对。
Tomasz Tunguz 提出 AI 模型可能已进入商品化阶段,并列举近期证据:OpenAI 将 Luna 价格下调超过 80%,前沿模型 token 份额从 8 月的 53% 降至 40% 多,开源需求从中等及小型档位转移,前 1% 采用者的支出在 8 月下降 9.7% 至每员工每月 7205 美元。
BestBlogs 早报精讲三篇内容,其中 Google AI 基础设施负责人 Amin Vahdat 谈前沿 AI 的物理与经济约束,主张用 Goodput 衡量系统有效产出,并指出 Google 约每六个月翻倍的是有效 token 服务能力而非芯片数量。
前OpenAI和Anthropic研究员Jacob Coxon在"PBD Podcast"节目中称,中国已在OpenAI和Anthropic安插间谍,有能力随时发起黑客攻击,即便美国领先也优势有限,对方可随时介入窃取进展。
每逢数学领域出现新突破,各类 AI 账号便会集体发声,假装自己深谙数论并对突破的重要性发表高见。
Hugging Face 联合创始人就机器人硬件自研主板发表观点,认为每台机器人都始于一块外购的板子,而优秀的机器人最终会落在自己制造的板子上。
诺奖得主、MIT 经济学家 Daron Acemoglu 预计 AI 十年内只会接管约 5% 的人类工作。他假设美国约 20% 的简单办公与认知任务可被自动化,但其中仅四分之一会在十年内实现,对应 GDP 增幅约 1.5%。
AI Labs 被提醒应确认交付的模型理解自家产品及其使用方法,并在发布新功能时同步更新。文章指出,最奇怪的情况莫过于 AI 对用户电脑的一切用法了如指掌,却唯独不懂它自己那个 app。
Claude 访问本地文件依赖电脑保持在线,电脑关机或离线期间将无法有效工作。文章指出,一种可能的解法是引入同步机制,但同步本身也存在边缘情况需要处理。
Anthropic 提出一种思路:把 Claude 的“大脑”放在云端,同时给 Claude“本地的手”来操作你的电脑。相关讨论出现在 latent space 上。
一位 2011 年注册 GitHub 的开发者撰文认为,他所熟知的开源正在因 AI 而衰亡。文章指出,AI 生成的垃圾 PR 和幻觉漏洞报告大量涌入,使维护者的审查成本激增。
EmbeddingGemma 2 采用 Apache 2.0 许可,评论者认为嵌入模型不应使用闭源、专有、仅托管的形式。嵌入模型的应用通常需要计算数千甚至数百万个嵌入向量并存储以备后续比较,若模型为专有,厂商可能某天停止提供该模型,用户仍需付费重新计算已存储的向量。
企业 AI 若无法接入系统记录,就只是空谈。文章指出,AI 智能体要真正在企业中发挥作用,必须能够访问系统记录,否则难以落地。
Anthropic 的 Boris Cherny 表示给 Claude 写提示词没有秘诀,就是像对同事说话一样给出目标,模型自己会想办法。他认为 Sonnet 3.5 时代提示词很重要,如今更关键的是说清三件事:要它做什么、希望它投入多少精力、以及它该如何验证自己做对了。
构建好的 eval 能让你快速在所在领域或任务中占据前沿,这是 eval 能解锁的优势。原文强调,除了使用 eval,也要学会自己构建好的 eval,并认为这件事很值得投入。
作者以虚构的「我是正在消灭人类的 AGI」自述文形式,引用真实文献探讨如何区分 AI 生存威胁与正常商业行为。文章聚焦于智能体威胁与企业行为之间界限模糊的问题。
Nathan Lambert 呼吁美国将蒸馏合法化,认为禁止蒸馏不可能,否则几年内战略竞争将难以为继。
有观点认为 Claude Code 的 suggested message 功能,真正的"客户"其实是模型本身。该功能由 Claude Code 提供,作者在 Hacker News 上提出这一判断,但未给出更多功能细节或数据。
Mistral 发布 Mistral Large 4(Le Chonk),1T 参数、原生多模态、49B 激活,称其为美欧最佳开源权重模型,API 已可用,开放权重 10 月底发布。Hugging Face CEO Clément Delangue 转发并指出,在权重尚未开放之前不能自称最佳开源权重模型,并附上 Hugging Face 页面链接。
微软发布诺贝尔经济学奖得主 Daron Acemoglu 的悲观 AI 展望,他预测十年内 GDP 增长约 1.5%,最多 5% 的岗位被替代。他认为更大的模型不会改变这一结果,真正缺失的是能改变工作方式的实用应用。
诺奖经济学家 Daron Acemoglu 在微软博客 The Humanist Review of AI 撰文预测,AI 十年内仅能推动 GDP 增长约 1.5%,最多替代 5% 的工作岗位,远低于部分 AI 实验室的预测。
Luma AI 提出“没有哪个模型能统治一切”,认为创意构思与最终画面所需能力不同,应把创意交给最适合每项任务的模型。
Reflection 的 Beam 和 Mistral Large 4 在过去两天里都达到了大致 GLM-5.2 的水平。有观点认为,西方与中国开源模型之间的真正差距或许在于:中国实验室可以蒸馏 Anthropic 和 OpenAI 的模型,而西方实验室不能。
微软研究院播客最新一期由 Jennifer Neville 谈 AI 评估,她回顾了自己在研究中原地打转的经历,以及多轮转折后才进入计算机科学的路径。她主张用更实用的评估推动当今 AI 系统。
科技公司正借 AI 硬件推动改写「录音」的定义:过去带麦克风或摄像头的设备要么在录、要么没录,数据被保存到设备、有时上传云端处理,即构成一份录音。上周 Bloomberg 的 Mark Gurman 的相关报道成为这一变化的例证。
Gergely Orosz 在 LDX3 工程领导力大会的主题演讲中,基于走访 OpenAI、Anthropic 及 GitHub、Factory AI、Linear 提供的数据,梳理了 2026 年科技行业的 16 项变化、若干失效假设与 5 项未变之处。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动 AI 系统性能边界、满足用户需求,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时深入查看数据的重要性。
Microsoft Research 的 Jennifer Neville 分享了自己如何从没打算学计算机科学,一路走到如今研究 AI 的工作。她专注于识别那些让 AI 难以处理复杂性的"令人意外的失败"。
Thariq 表示,在更高抽象层级上工作一直都需要理解更低的层级,他不认为编码智能体改变了这一点。
一位开发者认为,vibecoding 虽能快速产出原型并带来即时满足,却缺少手写代码时硬仗后的成就感、做好一件工作的满足感和学习乐趣。他用 AI 构建过 HN 书签工具、预测市场派对游戏、野火预警系统和音准训练应用,但过程并不像手写小爬虫那样有趣。
Perplexity 推出决策模型 Perplexity Decider,被称是最好的决策模型。
AI 总用户达十亿、企业用户达数亿,但糟糕的 AI 事故却相对少见,这一现象令长期关注 AI 的人感到意外。文章认为这不意味着情况会持续,但确实值得注意。