vLLM 从 Day 0 支持 Reflection Beam,并针对 NVIDIA Blackwell 优化
vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE,并在 NVIDIA Blackwell 上完成优化,推理、工具调用和结构化输出开箱可用。
推荐理由:vLLM 从 Day 0 支持 Beam 并给出内核融合与自适应验证的实测数据,可看推理栈如何承接新架构。
vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE,并在 NVIDIA Blackwell 上完成优化,推理、工具调用和结构化输出开箱可用。
推荐理由:vLLM 从 Day 0 支持 Beam 并给出内核融合与自适应验证的实测数据,可看推理栈如何承接新架构。
NVIDIA 宣布 RTX Spark 笔记本今日全球开售,由 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI 推出,起售价 2,599 美元。
推荐理由:RTX Spark 把 128GB 统一内存和 1 petaflop FP4 算力放进轻薄 Windows 笔记本,可据此判断本地跑大模型与智能体的硬件门槛变化。
Meta 的 Muse Spark Open 已在 Together AI 上线,Together AI 是其 Day 0 发布伙伴。该模型面向长时程智能体编码工作流,具备 1M token 上下文窗口、长时程自主规划与自我纠错、可协调子智能体、跨桌面移动端与浏览器的 computer use 与多模态浏览,并接受文本、图像、音频和音视频输入,还会在执行前说明意图。
推荐理由:官方给出 Muse Spark Open 的上下文窗口、定价与调用方式,可据此判断它在长时程编码智能体上的可用性。
vLLM 与 Meta Superintelligence Labs 合作,在 Muse Spark Open 发布当天为其提供 Day 0 支持。
推荐理由:vLLM 在发布当天给出 Muse Spark Open 的部署命令、量化格式与 DSpark 投机解码配置,可据此评估 1M 上下文的生产落地成本。
Meta 的编码优化开源权重模型 Muse Spark Open 已在 Amazon SageMaker JumpStart 上线,可在自己的 AWS 账户中部署为 SageMaker AI 端点。
推荐理由:Meta 的编码优化开源模型接入 SageMaker JumpStart,文中给出两种量化变体的实例选型与部署步骤,可据此估算自托管成本。
NVIDIA 发布 RTX Spark,定位为一台面向创作者、玩家和 AI 智能体的 Windows PC,并将于 10 月 16 日在旧金山、柏林、台北、北京、伊斯坦布尔、首尔等地举办发布活动。
推荐理由:NVIDIA 官方公布 RTX Spark 的定位与全球发布活动安排,并汇总多家媒体对本地 AI 与游戏表现的早期评价。
Google DeepMind 介绍用其智能体开发平台 Google Antigravity 加速抗菌肽发现,把过去分散在多个数据库的检索压缩到一次会话中。平台借助 ProtNLM 从氨基酸序列预测生物功能,扫描 UniProt 中数百万条未表征蛋白,找到一条对呼吸道感染相关病原体有预测活性的新型抗菌肽候选,目前正进行湿实验验证。
推荐理由:原文给出智能体科研工作台在抗菌肽发现中的完整流程,可了解跨库检索与结构分析如何被压缩进单次会话。
NVIDIA 发布开源多模态模型 Nemotron 3.5 Super VL,采用 120B 总参数、12B 激活参数的 MoE 架构,支持文本、图像、文档和视频输入,输出文本。
推荐理由:原文给出模型架构、部署配置与吞吐对比,读者可据此判断多模态智能体推理的落地成本。
PyTorch 官方博客发布 ExecuTorch 的 Arm Cortex-M 后端,让 PyTorch 模型无需转换格式即可直接运行在 Cortex-M CPU 上,并通过 CMSIS-NN 加速,覆盖 Scalar、DSP 和 MVE/Helium 全部能力档位。
推荐理由:ExecuTorch 新增 Cortex-M 后端,给出各能力档位与 MLPerf Tiny 实测数据,可据此评估 MCU 端部署路径。
vLLM 发布基于 push 的 NIXL KV 传输连接器 NixlPushConnector,把传输协调与建立从解码实例的关键路径移到预填充侧的后台线程。
推荐理由:vLLM 官方给出 push 模式 KV 传输的架构与复现脚本,可对照 pull 模式判断是否切换部署。
NVIDIA 宣布将完整的 Run:ai 平台以开源软件形式发布,向客户、开发者和生态伙伴开放生产级 AI 工作负载与 GPU 编排能力。该版本把 Run:ai 定位为开放基础,用于扩展 NVIDIA DSX AI Factory 平台,让更广泛的生态在此基础上推出差异化方案。
推荐理由:NVIDIA 把 Run:ai 全量开源并纳入 DSX 平台,读者可据此了解 GPU 编排能力的开放范围。
NVIDIA 公布 RTX Spark 笔记本首发(10 月 16 日)的软件与生态更新,覆盖本地智能体、创作应用和开发者工具。
推荐理由:梳理了 RTX Spark 首发时本地智能体、创作与开发工具的适配清单,可据此判断端侧 AI 工作流的可用边界。
Sierra 发布 Personal Agent Protocol(Poppy)草案,并公布新增 35 家设计伙伴,包括 OpenAI、Visa、Mastercard、PayPal、Target、Walmart 等。
推荐理由:协议草案给出了个人智能体与商家协作的五个构建模块,可据此判断现有网站与 API 的接入方式。
vLLM 宣布已支持 NVIDIA Vera Rubin NVL72,在 AgentX 上以 MiniMax M3 达到每 GPU 最高 7.84 倍于 GB200 的吞吐,在 150 TPS 约束下吞吐提升 5.18 倍。
推荐理由:vLLM 官方给出 Rubin 平台的早期适配状态与实测吞吐数据,可据此判断新硬件上的部署准备度。
NVIDIA 与 Microsoft 在旧金山 Windows AI 活动上宣布为 Windows PC 的 AI 智能体共同设计软硬件,Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统控制下安全持久地在后台运行。
推荐理由:原文给出 RTX Spark 的硬件规格与本地模型运行能力,读者可据此判断 Windows 端侧 AI 的算力边界。
GitHub 发布基于 ModernBERT 的通用密钥检测模型,用上下文判断数据库 URL、Kubernetes Secret manifest 和 Dockerfile 中的密码类值,可在 2 毫秒内评估一批候选密钥,并称可将可拦截的密钥数量提升一倍以上。
推荐理由:GitHub 公开了九季度密钥泄露数据,并说明新分类器如何把防护从人工响应转向推送前拦截。
微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量级 Agentic RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架内重新实现 agent。
推荐理由:原文给出框架的代码规模、Kubernetes 支持与端到端训练数据,读者可据此判断接入现有 agent harness 做 RL 的成本。
Together AI 发布 Together Link,可将团队已在用的编码智能体接入其开源模型,官方称可降低超过 50% 的开销。该工具支持 Claude Code、Claude Desktop、Codex(ChatGPT 应用与 CLI)、OpenCode 和 Pi,设置与登录保持不变,一条命令即可安装并随时切回原生闭源模型。
推荐理由:官方给出接入命令、路由规则与按会话计费对比,可据此估算团队编码智能体的成本变化。
NVIDIA 将于 10 月 23 日通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 发售 DGX Spark 64GB 配置,起售价 4,999 美元,保留 GB10 Grace Blackwell 超级芯片、DGX OS 和完整 NVIDIA AI 软件栈,支持最高 1000 亿参数模型在设备端运行。
推荐理由:原文给出 64GB 配置的定价、上市时间与双机集群扩展方式,可据此判断本地跑大模型的硬件门槛。
OpenAI 的 GPT-6 Astra Ultrafast 已在 OpenAI API 上线,并向符合条件的 ChatGPT Work 和 Codex 用户开放,运行在 NVIDIA Blackwell GPU 上。
推荐理由:原文给出 Astra Ultrafast 相对标准模式的提速幅度与开放入口,读者可据此判断它对编码智能体循环的实际影响。