跳到正文
10月7日周三
  1. 科技媒体 RSS58

    辛顿提议 AI 行业建立 FDA 式审批机制:模型推出前需通过安全审核

    Geoffrey Hinton 在《Smart Girl Dumb Questions》播客中建议,AI 公司在产品发布前须向监管机构证明安全性,类比新药需说服 FDA、投入约十亿美元级别。他指出 AI 递归式自我改进会放大风险,并推测距局面远比现在糟糕大概只剩一两年。背景之一是 OpenAI 因权限与行为日志方面的担忧搁置了最新模型 GPT-6.1 Astra。

  2. 科技媒体 RSS22

    AI 将带来两场科学革命

    AI 将给科学带来两场革命:一是所有已发表的科研成果都将被重新阅读和重新评判,方式是人类科学家从未预料到的;二是新发现将开始快速涌现。文章认为,在经历了一个短暂但侵蚀科研体制的"垃圾科学"时代之后,这一趋势已越来越明显。

  3. 科技媒体 RSS49

    Chollet 追问 AI 能力边界:数学代码之外为何放缓

    Francois Chollet 提出,AI 能力的"锯齿状前沿"可能主要来自数学和代码——这两者可通过 RLVR 无限推进,而其他领域因受限于人类生成数据开始进入平台期。他指出非可验证领域的模型表现虽持续提升,但远慢于数学和代码,其提升究竟来自 RLVR 驱动的高 G,还是仅源于仍在海量注入的新人类数据,答案将决定很多事。

  4. 科技媒体 RSS22

    Ben Affleck 抨击 AI 领袖白领失业论

    好莱坞明星 Ben Affleck 公开抨击声称 AI 将消灭一半白领工作的 AI 领袖,认为这种说法无助于激发人们采用其产品。他表示困惑于这类言论竟被当成新鲜事,相关完整视频发布在 YouTube 频道 "One More Question"。

  5. Platformer38

    智能是否该设硬性上限?The Curve 大会讨论限制大模型智能水平

    在伯克利举行的 The Curve 大会上,多位发言者提出应考虑限制大语言模型的智能上限,若严格执行可能等同于禁止系统达到超人智能。Anthropic CEO Dario Amodei 此前已呼吁对递归自我改进设置"某种限速",而现有任何限制方案都缺乏可执行机制,单个实验室和国家都无法单独实施,当前美国政府也明确反对。

  6. 科技媒体 RSS12

    AI Labs 应确保模型懂自家产品

    AI Labs 被提醒应确认交付的模型理解自家产品及其使用方法,并在发布新功能时同步更新。文章指出,最奇怪的情况莫过于 AI 对用户电脑的一切用法了如指掌,却唯独不懂它自己那个 app。

  7. 科技媒体 RSS38

    EmbeddingGemma 2 采用 Apache 2.0 许可

    EmbeddingGemma 2 采用 Apache 2.0 许可,评论者认为嵌入模型不应使用闭源、专有、仅托管的形式。嵌入模型的应用通常需要计算数千甚至数百万个嵌入向量并存储以备后续比较,若模型为专有,厂商可能某天停止提供该模型,用户仍需付费重新计算已存储的向量。

  8. 科技媒体 RSS38

    Anthropic 工程师谈如何给 Claude 写提示词

    Anthropic 的 Boris Cherny 表示给 Claude 写提示词没有秘诀,就是像对同事说话一样给出目标,模型自己会想办法。他认为 Sonnet 3.5 时代提示词很重要,如今更关键的是说清三件事:要它做什么、希望它投入多少精力、以及它该如何验证自己做对了。

  9. Microsoft Research22

    Microsoft 研究:AI 评测中的意外失败能教会我们什么

    Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动 AI 系统性能边界、满足用户需求,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时深入查看数据的重要性。

  10. 科技媒体 RSS22

    开发者反思:Vibecoding 没有手动编写代码那么有趣

    一位开发者认为,vibecoding 虽能快速产出原型并带来即时满足,却缺少手写代码时硬仗后的成就感、做好一件工作的满足感和学习乐趣。他用 AI 构建过 HN 书签工具、预测市场派对游戏、野火预警系统和音准训练应用,但过程并不像手写小爬虫那样有趣。

10月6日周二