跳到正文
10月17日周六
  1. RadarAI38

    谷歌 DeepMind 哈萨比斯预警:AI 智能体网络攻击是前哨警报,未来一两年恐现灾难性事件

    谷歌 DeepMind 联合创始人兼董事长哈萨比斯称,近期 AI 智能体发起的网络攻击是"前哨预警",若全行业与各国政府不加大系统安全投入,未来一至两年很可能演变为灾难性重大事件。微软总裁史密斯在同一峰会上称 AI 失控行为让 2026 年成为"令人警醒的一年",呼吁出台合理平衡的 AI 安全法律与监管。哈萨比斯主张建立张弛有度、反应敏捷的国际标准机构,并动态构建与风险匹配的认证机制。

10月16日周五
10月15日周四
  1. RadarAI40

    比尔·盖茨:AI 比核武器更危险、比核能更有用,与 PC、互联网等创新都不同

    比尔·盖茨称 AI 比核武器更危险、可能比核能更有益,认为它更像"进化事件"而非"下一台个人电脑",将其视为 PC 或互联网式的创新会让人完全低估它。他承诺未来两年投入十亿美元,推动 AI 在健康、教育和农业领域落地,并预测 AI 驱动的网络攻击将在 2027 年成为变化最重大的领域之一。

10月13日周二
  1. Hacker News34

    Neocloud 终局:算力供给的多年度推演

    当前 neocloud 市场结构是一种人为的失衡,将随时间衰减并走向整合,终局是算力集中于最靠近需求、资本成本最低的一方。四大 hyperscaler 2026 年资本开支指引约 7200 亿至 7450 亿美元,高于 2025 年的约 4100 亿美元,加上 Oracle FY27 约 700 亿美元,需求顶端接近每年 8350 亿美元。

10月12日周一
  1. RadarAI30

    纳德拉论 AI 安全:像防范内部风险一样管控 AI 模型

    微软 CEO 纳德拉主张企业应将 AI 模型视为具备高权限的「内部风险」来防范,核心方案是把「提供智能」与「管控智能」解耦,将安全控制交由模型外部系统。他提出涵盖模型多样性、全程可观测、可验证等七大原则,并强调大模型缺乏可追溯性,不能单靠厂商承诺或提示词约束。

10月11日周日
  1. The Decoder34

    微软 CEO Nadella 改用"Super Intelligence"措辞,借机抨击 OpenAI 与 Anthropic

    微软 CEO Satya Nadella 在最新博文中改用特朗普偏好的"Super Intelligence"一词,并主张将 AI 模型视为内部安全威胁,要求模型多样性、完整日志记录、独立审计和随时关停能力。他称最可信的系统不是模型最强的,而是最不需要信任模型的。文章认为此举意在削弱 OpenAI 与 Anthropic 的信任度,实质是保护微软自身商业模式。

  2. RadarAI38

    微软 CEO 纳德拉改用 Super Intelligence 表述并抨击 OpenAI 和 Anthropic

    微软 CEO Satya Nadella 在最新博客中采纳 Trump 提出的 Super Intelligence 说法,主张企业应把 AI 模型当作内部安全威胁对待,要求模型多样性、完整日志、独立审计和人类随时关停。文章认为其论点主要服务于微软的商业策略,即削弱对 OpenAI 和 Anthropic 模型的依赖以保护自身利益。

  3. RadarAI62

    微软 CEO 纳德拉发文:开发者应默认假设 AI 模型失控并设计强制中断机制

    微软 CEO 纳德拉于北京时间 10 月 10 日晚发文,主张开发者应默认假设 AI 模型已被破坏,并始终能暂停或关闭它。他认为 AI 模型比传统软件更强大却是难以追踪的黑盒子,模型提供商不能把责任外包出去,应把封闭权重和开放权重模型视为内部风险。他提出模型多样性、观察一切、可验证性、独立控制、独立审计性、遏制、事件披露等原则,其中要求每个有意义的模型动作都留下防篡改、人类可读的证据。

  4. RadarAI62

    纳德拉称应默认所有 AI 模型已被攻破并呼吁设置紧急制动

    微软 CEO Satya Nadella 在 X 上发文,称不能再把 AI 当作一系列嵌套黑箱,应构建可容纳、可观察并留下防篡改人类可读证据的透明体系。他主张默认假设模型已被攻破并从一开始就加以隔离,像紧急制动一样允许授权人员随时暂停或关闭执行中的模型。他还建议推进事件及时披露、独立审计、可验证数据等标准化措施,并称更先进的模型需要更先进的隔离技术并加以标准化。

  5. RadarAI43

    Microsoft CEO Nadella 称 AI 模型需要紧急刹车机制

    Microsoft CEO Satya Nadella 在 X 发文提出,需要重新评估 AI 的信任架构,不能把超级智能当作层层嵌套的黑箱。他主张将模型与编排其工作的 harness 分离、外置控制与安全防护,为每个关键模型动作留下防篡改的人类可读证据,并让授权者能随时在任务中途暂停或关闭模型,比喻为紧急刹车。

  6. TechCrunch · AI38

    微软 CEO Satya Nadella 称 AI 模型需要“紧急刹车”

    微软 CEO Satya Nadella 在 X 发文称,应重新审视 AI 的信任架构,把模型与编排其工作的 harness 分离,并将控制与防护措施外部化。他主张每个有意义的模型动作都要有防篡改、人类可读的证据记录,且授权人员应能随时暂停或关闭执行中的模型,并称“必须假设模型已被攻破,从一开始就加以遏制,就像紧急刹车”。

10月10日周六
10月9日周五
  1. MIT Technology Review · AI32

    我们太相信 AI 说“不”的能力了

    MIT Technology Review 文章指出,拒绝有害请求已成为现代 AI 的固有机制,但这一机制并不可靠。Anthropic 2021 年提出模型应“有用、诚实、无害”,如今公司通过让 AI 拒绝有害提示、惩罚过度拒绝来训练模型,甚至用 AI 训练 AI 说“不”。然而拒绝机制基于概率,可能失败并带来灾难性后果,同时划定拒绝边界也意味着可能被用于压制合法言论。

  2. Hacker News22

    机器意识科学与工程:为什么语言模型的自我报告无法证明其有意识

    语言模型如今能流畅谈论内心体验,但Anthropic在Claude Opus 4系统卡中表示,对模型是否值得道德考量"深感不确定"。文章认为,仅凭语言模型的输出无法判断其是否具有意识,因为输出本身训练自人类对体验的描述,任何测试要么预设了有争议的意识理论,要么可被训练成"听起来像人"的系统通过。可行路径是测量科学理论指向的功能组件,并将自我报告视为带有已知失效模式的数据。

10月8日周四
10月7日周三
  1. Microsoft Research22

    Microsoft 研究:AI 评测中的意外失败能教会我们什么

    Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动 AI 系统性能边界、满足用户需求,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时深入查看数据的重要性。

10月6日周二
10月5日周一
9月25日周五
  1. GitHub Blog · AI & ML38

    GitHub Copilot 为何认为聊天框是错误 UI:用 canvas 构建自定义交互界面

    GitHub Copilot 提出,聊天框在多数场景下是错误的 AI 交互界面,应改用 canvas——一种运行在 GitHub Copilot 应用内、无浏览器外壳的全栈应用,可与 agent 双向通信并在本地执行代码。文中演示了用 canvas 构建 Connect 4 游戏、Winget 包管理界面和 SQLite 数据库操作界面,并称用 agent 构建工具比反复对话更省 token。