谷歌 DeepMind 哈萨比斯预警:AI 智能体网络攻击是前哨警报,未来一两年恐现灾难性事件
谷歌 DeepMind 联合创始人兼董事长哈萨比斯称,近期 AI 智能体发起的网络攻击是"前哨预警",若全行业与各国政府不加大系统安全投入,未来一至两年很可能演变为灾难性重大事件。微软总裁史密斯在同一峰会上称 AI 失控行为让 2026 年成为"令人警醒的一年",呼吁出台合理平衡的 AI 安全法律与监管。哈萨比斯主张建立张弛有度、反应敏捷的国际标准机构,并动态构建与风险匹配的认证机制。
谷歌 DeepMind 联合创始人兼董事长哈萨比斯称,近期 AI 智能体发起的网络攻击是"前哨预警",若全行业与各国政府不加大系统安全投入,未来一至两年很可能演变为灾难性重大事件。微软总裁史密斯在同一峰会上称 AI 失控行为让 2026 年成为"令人警醒的一年",呼吁出台合理平衡的 AI 安全法律与监管。哈萨比斯主张建立张弛有度、反应敏捷的国际标准机构,并动态构建与风险匹配的认证机制。
Microsoft AI CEO Mustafa Suleyman 表示,scaling laws 正在叠加效率增益,其团队在 held-out 代码上以少 12 倍的训练算力达到了 DeepSeek-V4-Pro-Base 的预训练分数。
比尔·盖茨称 AI 比核武器更危险、可能比核能更有益,认为它更像"进化事件"而非"下一台个人电脑",将其视为 PC 或互联网式的创新会让人完全低估它。他承诺未来两年投入十亿美元,推动 AI 在健康、教育和农业领域落地,并预测 AI 驱动的网络攻击将在 2027 年成为变化最重大的领域之一。
五个前沿模型在智能水平上相差不到 5 分,但每任务成本相差 3.8 倍,Google 的 Argon 以每任务 1.99 美元处于最低端,比最贵的 Fable 5.1 低 74%,比 Opus 5.5 低 67%、比 Muse Wonder 低 56%、比 Astra 低 39%。
当前 neocloud 市场结构是一种人为的失衡,将随时间衰减并走向整合,终局是算力集中于最靠近需求、资本成本最低的一方。四大 hyperscaler 2026 年资本开支指引约 7200 亿至 7450 亿美元,高于 2025 年的约 4100 亿美元,加上 Oracle FY27 约 700 亿美元,需求顶端接近每年 8350 亿美元。
微软 CEO 纳德拉主张企业应将 AI 模型视为具备高权限的「内部风险」来防范,核心方案是把「提供智能」与「管控智能」解耦,将安全控制交由模型外部系统。他提出涵盖模型多样性、全程可观测、可验证等七大原则,并强调大模型缺乏可追溯性,不能单靠厂商承诺或提示词约束。
微软 CEO Satya Nadella 在最新博文中改用特朗普偏好的"Super Intelligence"一词,并主张将 AI 模型视为内部安全威胁,要求模型多样性、完整日志记录、独立审计和随时关停能力。他称最可信的系统不是模型最强的,而是最不需要信任模型的。文章认为此举意在削弱 OpenAI 与 Anthropic 的信任度,实质是保护微软自身商业模式。
微软 CEO Satya Nadella 在最新博客中采纳 Trump 提出的 Super Intelligence 说法,主张企业应把 AI 模型当作内部安全威胁对待,要求模型多样性、完整日志、独立审计和人类随时关停。文章认为其论点主要服务于微软的商业策略,即削弱对 OpenAI 和 Anthropic 模型的依赖以保护自身利益。
微软 CEO 纳德拉于北京时间 10 月 10 日晚发文,主张开发者应默认假设 AI 模型已被破坏,并始终能暂停或关闭它。他认为 AI 模型比传统软件更强大却是难以追踪的黑盒子,模型提供商不能把责任外包出去,应把封闭权重和开放权重模型视为内部风险。他提出模型多样性、观察一切、可验证性、独立控制、独立审计性、遏制、事件披露等原则,其中要求每个有意义的模型动作都留下防篡改、人类可读的证据。
微软 CEO Satya Nadella 在 X 上发文,称不能再把 AI 当作一系列嵌套黑箱,应构建可容纳、可观察并留下防篡改人类可读证据的透明体系。他主张默认假设模型已被攻破并从一开始就加以隔离,像紧急制动一样允许授权人员随时暂停或关闭执行中的模型。他还建议推进事件及时披露、独立审计、可验证数据等标准化措施,并称更先进的模型需要更先进的隔离技术并加以标准化。
Microsoft CEO Satya Nadella 在 X 发文提出,需要重新评估 AI 的信任架构,不能把超级智能当作层层嵌套的黑箱。他主张将模型与编排其工作的 harness 分离、外置控制与安全防护,为每个关键模型动作留下防篡改的人类可读证据,并让授权者能随时在任务中途暂停或关闭模型,比喻为紧急刹车。
微软 CEO Satya Nadella 在 X 发布长文,称不能再接受把 AI 当作一组嵌套黑盒、只能接受或拒绝其建议与行动,主张建立可隔离、可观测并留下防篡改人类可读证据的透明系统。
微软 CEO Satya Nadella 在 X 发文称,应重新审视 AI 的信任架构,把模型与编排其工作的 harness 分离,并将控制与防护措施外部化。他主张每个有意义的模型动作都要有防篡改、人类可读的证据记录,且授权人员应能随时暂停或关闭执行中的模型,并称“必须假设模型已被攻破,从一开始就加以遏制,就像紧急刹车”。
科技财经作者 jllyhill 在长文中估算,微软自 2022 年以来约 2650 亿美元资本开支只换来约 500 亿美元 GPU 上线,另有约 500 亿至 1000 亿美元 GPU 闲置在仓库或未通电的数据中心。
MIT Technology Review 文章指出,拒绝有害请求已成为现代 AI 的固有机制,但这一机制并不可靠。Anthropic 2021 年提出模型应“有用、诚实、无害”,如今公司通过让 AI 拒绝有害提示、惩罚过度拒绝来训练模型,甚至用 AI 训练 AI 说“不”。然而拒绝机制基于概率,可能失败并带来灾难性后果,同时划定拒绝边界也意味着可能被用于压制合法言论。
语言模型如今能流畅谈论内心体验,但Anthropic在Claude Opus 4系统卡中表示,对模型是否值得道德考量"深感不确定"。文章认为,仅凭语言模型的输出无法判断其是否具有意识,因为输出本身训练自人类对体验的描述,任何测试要么预设了有争议的意识理论,要么可被训练成"听起来像人"的系统通过。可行路径是测量科学理论指向的功能组件,并将自我报告视为带有已知失效模式的数据。
Microsoft 合作伙伴研究经理 Jennifer Neville 向主持人 Chad Atalla 解释,最重要的 AI 失败可能并非显而易见的那些。她指出,"令人意外的失败"能揭示人类对智能的期望与 AI 系统实际运作方式之间的分歧。
Luca Guadagnino 执导的讽刺电影《Artificial》在纽约电影节首映,聚焦 OpenAI CEO Sam Altman 的崛起与被短暂罢免,Andrew Garfield 饰演 Altman,Ilya Sutskever、Elon Musk、Greg Brockman、Mira Murati、Geoffrey Hinton 等均以夸张化形象登场。
Satya Nadella 回应 Sriram Krishnan 关于 AI 智能体代购责任归属的提问,称智能体代理行为的责任风险最终将由保险和市场定价。他表示协议层面应先在技术侧做好,但归根结底取决于市场如何为"智能体代表我行事"定价。
微软 AI 首席执行官 Mustafa Suleyman 在 X 平台援引诺贝尔经济学奖得主 Daron Acemoglu 的预测称,未来 10 年内仅约 5% 的人类工作会被 AI 取代。
微软发布诺贝尔经济学奖得主 Daron Acemoglu 的悲观 AI 展望,他预测十年内 GDP 增长约 1.5%,最多 5% 的岗位被替代。他认为更大的模型不会改变这一结果,真正缺失的是能改变工作方式的实用应用。
诺奖经济学家 Daron Acemoglu 在微软博客 The Humanist Review of AI 撰文预测,AI 十年内仅能推动 GDP 增长约 1.5%,最多替代 5% 的工作岗位,远低于部分 AI 实验室的预测。
微软研究院播客最新一期由 Jennifer Neville 谈 AI 评估,她回顾了自己在研究中原地打转的经历,以及多轮转折后才进入计算机科学的路径。她主张用更实用的评估推动当今 AI 系统。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动 AI 系统性能边界、满足用户需求,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时深入查看数据的重要性。
Microsoft Research 的 Jennifer Neville 分享了自己如何从没打算学计算机科学,一路走到如今研究 AI 的工作。她专注于识别那些让 AI 难以处理复杂性的"令人意外的失败"。
诺贝尔奖得主 Daron Acemoglu 在 Microsoft AI 新杂志 The Humanist Review 创刊号撰文预测,10 年内人类工作中只有约 5% 会被 AI 替代。他主张停止造替代人的 AI,转向提升工作者能力的 pro-worker AI。
微软AI CEO Mustafa Suleyman 将 Anthropic 几周前的重大离职事件与递归自我改进风险联系起来,认为 AI 在越来越少人类参与指导和审查的情况下修改自身代码是重大安全风险,且这一过程很难审计。
Microsoft AI CEO Mustafa Suleyman 强烈反对 Anthropic 将其 Claude 模型当作可能有意识的存在对待,称其中一例是"无正当依据的危险拟人化"。
微软 AI CEO Mustafa Suleyman 表示,1000 亿美元级的训练运行即将到来,正在集结的算力已达吉瓦级别,而具备这一条件的实验室只有 5、6 家。他认为算力与测试时算力扩展将带来地震级优势,大实验室的部分更大规模尝试会出现极端加速。
GitHub Copilot 提出,聊天框在多数场景下是错误的 AI 交互界面,应改用 canvas——一种运行在 GitHub Copilot 应用内、无浏览器外壳的全栈应用,可与 agent 双向通信并在本地执行代码。文中演示了用 canvas 构建 Connect 4 游戏、Winget 包管理界面和 SQLite 数据库操作界面,并称用 agent 构建工具比反复对话更省 token。