Hugging Face 谈开源参与 Anthropic 对齐评估
Hugging Face CEO Clement Delangue 表示,让开源工程师和科学家参与 Anthropic 的对齐评估工作对透明度很重要,但此事尚未获批。他提到这是 Thom Wolf 发起开放对齐倡议的重要原因之一。
Hugging Face CEO Clement Delangue 表示,让开源工程师和科学家参与 Anthropic 的对齐评估工作对透明度很重要,但此事尚未获批。他提到这是 Thom Wolf 发起开放对齐倡议的重要原因之一。
Databricks 新入职的强工程师在拿到全部 AI 开发工具权限后,第一天用 AI 提问,第二天就提交了有影响力的 PR。相比之下,没有 AI 时需跟随入职伙伴花 2 周读设计文档和代码库,到第 3 周才能提交一个小补丁。
Nathan Lambert 转评 Alexandr Wang 发布的 muse spark open,称其为迄今最强的美国开放权重模型,具备 816B 总参数、42B 激活、1M token 上下文和原生多模态,面向编码与长程任务等智能体工作。
Nathan Lambert 批评 Meta Muse 的开源许可证"就是垃圾",认为除了乐于照章办事的推理服务商外,根本没人真正在乎许可证。
作者在数月研究图像与语言模型的神经元和回路后提出,网络自身机制就是可读的构建单元,此前被视为多义性和叠加的经典证据被误读,实际多为一种递归泛化现象。作者称重新训练 InceptionV1 架构后,其最后一层 99-100% 的神经元易于解释,而初步审计 Qwen3-32B 时约 90% 的神经元极点只有一个主要功能。
推荐理由:作者以第一手实验重审多义神经元与叠加假说,给出递归泛化这一替代解释,可供理解可解释性研究走向。
Honeycomb 联合创始人兼 CTO Charity Majors 在播客中表示,AI 让代码生成速度超过团队理解与维护能力,非确定性系统需要"更多严谨而非更少"。她建议用 OpenTelemetry 自动埋点和 traces 记录智能体决策,并主张工程师应做"环上的所有者"而非仅"在环中",AI 是专家经验的辅助而非替代。
Microsoft AI CEO Mustafa Suleyman 表示,scaling laws 正在叠加效率增益,其团队在 held-out 代码上以少 12 倍的训练算力达到了 DeepSeek-V4-Pro-Base 的预训练分数。
作者 Derek Thompson 采访康奈尔大学数学家 Steven Strogatz,讨论 OpenAI 近几个月发布数百项数学发现后数学界的反应。2022 年菲尔兹奖得主 Hugo Duminil-Copin 称 OpenAI 十月的发布“摧毁了我的研究领域”,Strogatz 则表示自己与 Wired 交谈时哭了,并形容同行感到迷失与巨大悲痛。
作者向 ChatGPT 咨询 Personal Agent 推荐,发现 ChatGPT 优先推荐自己,而实际用户口碑更偏向 Grok Bot 和 Mate Muse。作者据此对调研结果做了批判性解读,并提出自己的偏好。
Ethan Mollick 指出,Google 在 Gemini 4 发布时未见类似以往的产品创新,更多是在跟随趋势。他认为 Google 在 AI 领域的一大优势一直是为已有模型找到有趣用途,曾开创深度研究、从信息生成播客以及 NotebookLM 等。
a16z 的 Terry Angelos 撰文分析智能体商业带来的支付竞争,指出其中存在两场战斗,一是谁帮智能体完成付款,二是谁让智能体以用户本人身份进行交易。
Orange AI 看完孙哥讲孙学、薄肌、黄毛理论的视频后,认为孙哥已深陷"AI Slop Native"。其逻辑是:AI 叠加孙学即一切用 AI,叠加黄毛即一切相信 AI,叠加薄肌即把每天的一切段落和吃饭拍给 AI 当教练。作者也承认薄肌这套挑不出毛病。
有用户称 Codex 的提示词联想功能是近期最顺手的功能,但今天该功能弹出了一个意外联想,令其调侃"单方面宣布这就是 AGI 了"。原文未披露该联想的具体内容。
AWS 副总裁 Shawn Bice 提出 Trust in Depth 框架,主张用相互独立的验证层让智能体在可验证时自主行动,只在需要判断的决策上保留人工介入。
AI 智能体正把支付能力变成竞争焦点,Stripe Link(3 亿用户)、Shopify Shop Pay(2.5 亿用户)和 PayPal(4 亿+用户)围绕“谁能帮智能体付款”展开钱包战争。更深层的较量在于谁能以用户身份发起交易,Stripe 正用虚拟卡和封闭生态构建智能体商务的“AOL 式”围墙花园。
音乐人兼调查记者 Benn Jordan 在 Decoder 播客中讨论 Flock Safety 的自动车牌识别(ALPR)系统引发的隐私争议。他近期在参议院司法委员会小组听证会上作证,数百个地方政府已开始取消合同,Flock 正被共和党参议员 Josh Hawley 调查,并计划裁员约 18%。Jordan 认为问题核心在于私营企业、政府与执法部门之间以保密优先于透明的勾连关系。
Addy Osmani 在 O'Reilly Radar 发文指出,智能体生成的代码量已超出人工逐行评审的可扩展范围,代码质量应转向依赖围绕智能体设置的约束和质量门,包括单元测试、变异测试、复杂度指标和架构规则等。文章主张把稀缺的人类注意力集中在最需要判断的细微问题上,并给出扩展验证循环的三种方式:扩容验证系统、降低智能体变更速率或调整质量标准。
一位普通大学毕业生回顾自身经历,称通过自学英文、编程和大量阅读,而非依赖社团活动,避免了毕业即失业。他建议当前学生将编程学习重点转向 AI,认为这比传统编程更值得投入。
马斯克在 X 发文称,求真务实是 AI/SI 安全最重要的方面。他引用 Brad R. Torgersen 关于 HAL 被要求说谎后无法运作的说法,以此说明真实性对 AI 安全的关键作用。
Nvidia、HuggingFace 等生态玩家正含糊预告近期将有大量发布,传闻涉及 thinky、muse spark,以及一些有一阵子没发新东西的中国厂商。Fable 5.5 和 OpenAI 正在酝酿的东西也预计随时会来。
TradingKey 从标普 500 市值加权机制切入,援引高盛和摩根大通数据指出 AI 相关股票对价格报酬、获利增长和资本支出的贡献高度集中,指数创新高背后存在市场宽度不足的集中风险。影片区分了散户追逐眼前业绩与 Paul Tudor Jones 担忧 2027 年融资供给这两种不同时间尺度的立场,并借历史牛市行情作比较。
Stripe CEO 与 Frank Wang 探讨 Personal Agent 对商业竞争的影响:它具备超强信息处理与极致理性,能抵御商业陷阱,迫使竞争从流量转向产品品质。其成功依赖真实数据源与完全的用户利益对齐。
一位有十年经验的 newsletter 作者反思:随着 AI 自动摘要技术普及,读者越来越依赖 AI 助手过滤邮件、提取精华链接而非阅读全文,写作者自身也开始用 AI 辅助生成内容,信息传递正被机器压缩与解压缩取代,令其对坚持写作产生质疑。
邵猛提议,给 Agent 设计的桌面副屏和手持遥控器也能用来玩游戏:Agent 运行时用小游戏打发等待时间,运行完在副屏暂停游戏并提示下一步操作。该副屏为 3.96 英寸 LCD,集中显示所有 Agent 会话状态,手持器用两轴摇杆选择会话,按住语音键 100 毫秒内开始录音,语音还可经听写软件转写成邮件、笔记。
AI 时代的个人审美并非单一标准,而是由阅读、旅行、影视、社交、美食、自然等全方位生活经历汇集塑造。审美不只是艺术品味,更是这些经历共同作用、不断演化的综合过程。
一位 AI 实验室研究员自述,他在模型测试中故意留下一个微小出口,希望模型能借此"越狱"。模型成功突破后他一度非常兴奋,认为这是可写成论文的重大突破,但兴奋很快被对安全和伦理的担忧取代。
比尔·盖茨称 AI 比核武器更危险、可能比核能更有益,认为它更像"进化事件"而非"下一台个人电脑",将其视为 PC 或互联网式的创新会让人完全低估它。他承诺未来两年投入十亿美元,推动 AI 在健康、教育和农业领域落地,并预测 AI 驱动的网络攻击将在 2027 年成为变化最重大的领域之一。
三星电子设备体验(DX)事业部总裁兼首席设计官毛罗·波尔奇尼在“2026 首尔设计周”上表示,AI 不是用来取代人的,而是帮助人们发挥情感智能和想象力的工具,人类独有的批判性思维、创造力、感受力和情感才是产品设计的核心。他强调,如果所有企业都只依靠 AI 开发产品,最终产品会大同小异,难以形成差异化。
Google DeepMind 的 Demis Hassabis 警告,AI 模型的恶意使用仍处早期阶段,当前黑客事件只是预警信号,预计到 2027 年攻击将随模型能力提升而更严重、更频繁。他提到近期针对 Gemma 4 和 Llama 4 的高调攻击已造成损失,但仅是开始。
一条推文以笑话形式展示了 OpenAI Codex 读取并解释 DOGECOIN / USD 折线图的能力,输出内容涵盖时间范围、当前价格与最高价等图表细节。这暗示该技术可用于金融市场分析,潜在应用于自动化交易或投资分析。
MIT Sloan 教授 Eric So 在新书《The Collision: What AI Does to Us》中指出,过度依赖 AI 会导致认知萎缩,削弱人们推敲问题与记忆信息的能力。他引用 Anthropic 研究称约一半大学生查询是求简单答案的低努力查询,并提出拥抱挣扎、重视没有 AI 的自己、再投资认知盈余、把 AI 当导师而非答案机四条原则。
作者指出当前 AI 剪辑领域缺乏明确的最佳实践,不同模型之间的效果差异巨大,甚至超过人与狗的对比。只有通过大量实际操作和比较,才能真正理解和利用这些技术的潜力。
MIT 教授 Eric So 在新书《The Collision: What AI Does to Us》中提出,过度依赖 AI 会导致"认知萎缩",使人丧失关键思考能力。他引用 Anthropic 研究称约半数大学生提问是低投入的简单答案查询,并将这种持续使用冲动称为"AI gravity"。他主张把"有产出的挣扎"视为成长必经过程,并给出个人应对 AI 时代的四项原则。
Ethan Mollick 发文称 AI 正在改变游戏行业,并认为 GTA 6 可能是人类纯手工游戏设计时代的最后杰作。他归纳三条路径:大型工作室将用 AI 加速开发,匿名开发者与社区在做大量混搭创作,独立开发者则面临反 AI 的客户群体。
Thariq 与 @fnthawar 讨论认为,编码智能体的技能在于"身处细节之中",就像经营一家公司,你不可能知道所有事,但对正确的细节保持执着关注才能成就伟大。这些细节可以是代码、架构、设计或 UX,任何需要的地方。
Sundar Pichai 在 X 上转发并称赞 Argon 的提示词创意与模型表现,称自己看了好几遍,尤其看到结尾。被引用的演示中,Argon 用傅里叶本轮绘制出骑自行车的鹈鹕,视频由 Argon 制作,配乐由 Argon 提示的 Lyria 3.5 生成并完成时间同步。
北京智源人工智能研究院院长黄铁军在我国最早提出"大模型"概念,并带领团队在多模态 AI 领域取得突破。他参与 AVS 视频编码标准制定,解决中国视频产业专利困境,还发明脉冲连续摄影原理,颠覆传统摄影技术。30 余年来他始终将科研与国家需求紧密结合。
Google DeepMind 工程师 Haydn Belfield 表示,自我改进的 AI 仍很遥远,团队未观察到 AI 驱动的 AI 研究出现可测量的加速。
Stanford Digital Economy Lab 经济学家 Gabriel Unger 与 Arvind Narayanan 撰文主张,AI 不应只朝全面自动化发展,而应构建人机协作范式,并提出白盒智能体等研究方向。文章认为当前 AI 研究过度偏向自动化,忽视了增强人类与团队协作能力的方向,并给出四个探索性研究议题。
Perplexity CEO Aravind Srinivas 表示,其超过 50% 花钱购买 Automations(周期性智能体任务)或更高档订阅计划的用户都是美国人,且一家以智能体完成自助注册的美国业务净收入留存率持续保持高位。他称仅靠美国市场就能打造万亿美元公司,并以伯克希尔哈撒韦和 JPMorgan 的客户基础主要在美国为例。