跳到正文
10月11日周日
  1. RadarAI62

    微软 CEO 纳德拉发文:开发者应默认假设 AI 模型失控并设计强制中断机制

    微软 CEO 纳德拉于北京时间 10 月 10 日晚发文,主张开发者应默认假设 AI 模型已被破坏,并始终能暂停或关闭它。他认为 AI 模型比传统软件更强大却是难以追踪的黑盒子,模型提供商不能把责任外包出去,应把封闭权重和开放权重模型视为内部风险。他提出模型多样性、观察一切、可验证性、独立控制、独立审计性、遏制、事件披露等原则,其中要求每个有意义的模型动作都留下防篡改、人类可读的证据。

  2. RadarAI62

    纳德拉称应默认所有 AI 模型已被攻破并呼吁设置紧急制动

    微软 CEO Satya Nadella 在 X 上发文,称不能再把 AI 当作一系列嵌套黑箱,应构建可容纳、可观察并留下防篡改人类可读证据的透明体系。他主张默认假设模型已被攻破并从一开始就加以隔离,像紧急制动一样允许授权人员随时暂停或关闭执行中的模型。他还建议推进事件及时披露、独立审计、可验证数据等标准化措施,并称更先进的模型需要更先进的隔离技术并加以标准化。

  3. RadarAI43

    Microsoft CEO Nadella 称 AI 模型需要紧急刹车机制

    Microsoft CEO Satya Nadella 在 X 发文提出,需要重新评估 AI 的信任架构,不能把超级智能当作层层嵌套的黑箱。他主张将模型与编排其工作的 harness 分离、外置控制与安全防护,为每个关键模型动作留下防篡改的人类可读证据,并让授权者能随时在任务中途暂停或关闭模型,比喻为紧急刹车。

  4. TechCrunch · AI38

    微软 CEO Satya Nadella 称 AI 模型需要“紧急刹车”

    微软 CEO Satya Nadella 在 X 发文称,应重新审视 AI 的信任架构,把模型与编排其工作的 harness 分离,并将控制与防护措施外部化。他主张每个有意义的模型动作都要有防篡改、人类可读的证据记录,且授权人员应能随时暂停或关闭执行中的模型,并称“必须假设模型已被攻破,从一开始就加以遏制,就像紧急刹车”。

10月10日周六
  1. The Decoder60

    微软发布 Decision-1 决策模型,基于 Qwen3.5-9B

    微软推出决策模型 Decision-1,用于分类、评估和路由决策,并称其有潜力引导和控制智能体应对复杂环境。该模型基于 Qwen3.5-9B,微软称其在覆盖近 15 万个问题的 36 项基准测试中准确率最高,速度比第二名 H2O-Lightning-4B 快 2.5 倍,基准对比中达到 83.5% 准确率和 85 ms 延迟,领先 Jev 1.13.0。

  2. Hacker News22

    AI 的拒绝机制为何不可靠,以及 GLP-1 减肥药的副作用

    MIT Technology Review 指出,当前 AI 模型被训练拒绝大量提示词,但拒绝机制会失效,已有人试图用 AI 增强生物病原体、构建自主无人机蜂群,失败的拒绝可能酿成全球灾难。与此同时,GLP-1 减肥药除常见的胃肠道反应外,研究人员还在调查其与脱发、指甲病变及眼后神经损伤的潜在关联。

  3. RadarAI43

    微软论文:编码智能体瓶颈在“读代码”而非“改代码”

    微软论文发现编码智能体在理解大量代码时容易出错,而非编辑大量代码时,建议用代码阅读与比较任务而非 diff 大小来评测。研究者构建 CABRA 生成合成编码任务,每次只提升一类难度,在 6,840 个任务上测试了 8 个 LLM 和 6 个智能体,并将每次工具调用标注为读取、分析、搜索、编辑或测试。

  4. RadarAI62

    微软推出 Decision-1 决策模型

    微软推出新模型 Microsoft-Decision-1,用于快速决策。Satya Nadella 表示,它在结构化决策任务上表现顶尖,在延迟和质量上均优于 LLM 和其他决策模型。该模型已在微软内部测试,应用范围涵盖事件响应、质量控制和科学发现。

  5. RadarAI34

    Amazon 放弃数据中心 NDA,AI 智能体想要你的信用卡

    Amazon 宣布在与地方政府谈判数据中心交易时不再使用保密协议(NDA),此前 Microsoft 今年早些时候已采取类似举措。保密做法引发的社区反对已导致从纽约到旧金山数百项拟议和已颁布的禁令。与此同时,一批初创公司押注消费者愿意让 AI 智能体访问自己的收件箱、文件和信用卡,前提是能让网站放行。

  6. RadarAI36

    TechCrunch Equity 播客:亚马逊效仿微软弃用数据中心协议 NDA,并探讨个人 AI Agent 创业潮

    亚马逊宣布在与地方政府谈判数据中心协议时将停止使用 NDA,此前微软已于今年采取类似举措。TechCrunch Equity 播客中,Anthony Ha、Sean O'Kane 和 Rebecca Bellan 讨论这一转变能否改变数据中心交易方式,并探讨押注消费者会向 AI 智能体开放收件箱、文件和信用卡的个人 AI 创业潮。

  7. GitHub50

    GraphMind:面向 Microsoft Graph 的 API 感知 MCP 服务器

    GraphMind 是一个面向 Microsoft Graph 的 API 感知 MCP 服务器,通过本地始终更新的 Graph API 索引和 3 层搜索漏斗,让 AI 客户端不再猜测端点路径。它可接入 Cursor 和 VS Code GitHub Copilot,首次冷启动解析约 45k 个端点需 4–6 分钟,首次搜索下载约 80MB 重排序模型,写操作需用户确认后执行。

10月9日周五
  1. RadarAI42

    微软 TeleTune:从离线日志进化智能体技能

    微软论文提出 TeleTune,让智能体直接从原始使用日志中学习软件技能,无需实时测试环境。该方法猜测每个会话的目标,用文本技能库让模型预测每条日志动作,错误预测触发技能库修改,仅保留在留出日志上准确率提升的编辑。论文称旧日志上的下一步动作准确率与实时成功率一致,建议产品记录用户活动并据此挖掘智能体技能。

  2. Hacker News58

    美国核电站群体引入 AI:94 座反应堆获接入机会,多数已采用

    美国近全部 94 座核反应堆今年获得将 AI 整合进运营的机会,多数已采用。Atomic Canyon 于 8 月推出核工业虚拟助手 NIVA,与 Constellation Energy 旗下核电站完成试点后向全美反应堆开放;Nuclearn 称其产品已服务超过 65 家美国合作伙伴,并与 NuScale Power 就先进小型核反应堆展开整合。

  3. MIT Technology Review · AI32

    我们太相信 AI 说“不”的能力了

    MIT Technology Review 文章指出,拒绝有害请求已成为现代 AI 的固有机制,但这一机制并不可靠。Anthropic 2021 年提出模型应“有用、诚实、无害”,如今公司通过让 AI 拒绝有害提示、惩罚过度拒绝来训练模型,甚至用 AI 训练 AI 说“不”。然而拒绝机制基于概率,可能失败并带来灾难性后果,同时划定拒绝边界也意味着可能被用于压制合法言论。