vLLM 从 Day 0 支持 Reflection Beam,并针对 NVIDIA Blackwell 优化
vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE,并在 NVIDIA Blackwell 上完成优化,推理、工具调用和结构化输出开箱可用。
推荐理由:vLLM 从 Day 0 支持 Beam 并给出内核融合与自适应验证的实测数据,可看推理栈如何承接新架构。
公司与模型
英伟达的 AI 芯片与生态动态:GPU 新品、CUDA 生态、机器人平台与 AI 算力市场的风向。
13 条精选近 30 天 13 条共收录 209 条
vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE,并在 NVIDIA Blackwell 上完成优化,推理、工具调用和结构化输出开箱可用。
推荐理由:vLLM 从 Day 0 支持 Beam 并给出内核融合与自适应验证的实测数据,可看推理栈如何承接新架构。
NVIDIA 宣布 RTX Spark 笔记本今日全球开售,由 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI 推出,起售价 2,599 美元。
推荐理由:RTX Spark 把 128GB 统一内存和 1 petaflop FP4 算力放进轻薄 Windows 笔记本,可据此判断本地跑大模型与智能体的硬件门槛变化。
NVIDIA 发布 RTX Spark,定位为一台面向创作者、玩家和 AI 智能体的 Windows PC,并将于 10 月 16 日在旧金山、柏林、台北、北京、伊斯坦布尔、首尔等地举办发布活动。
推荐理由:NVIDIA 官方公布 RTX Spark 的定位与全球发布活动安排,并汇总多家媒体对本地 AI 与游戏表现的早期评价。
NVIDIA 发布开源多模态模型 Nemotron 3.5 Super VL,采用 120B 总参数、12B 激活参数的 MoE 架构,支持文本、图像、文档和视频输入,输出文本。
推荐理由:原文给出模型架构、部署配置与吞吐对比,读者可据此判断多模态智能体推理的落地成本。
NVIDIA 发布开放模型 Nemotron 3.5 Super VL,1200 亿参数,主打多模态智能体任务,官方称其吞吐量最高可达同类模型的 5 倍,精度接近 NVIDIA 最大推理模型而参数量约为其五分之一。
推荐理由:NVIDIA 一次放出三款覆盖数据中心到端侧的开放权重模型,并列出各行业后训练案例,可据此判断开放模型在企业智能体部署中的位置。
NVIDIA 宣布将完整的 Run:ai 平台以开源软件形式发布,向客户、开发者和生态伙伴开放生产级 AI 工作负载与 GPU 编排能力。该版本把 Run:ai 定位为开放基础,用于扩展 NVIDIA DSX AI Factory 平台,让更广泛的生态在此基础上推出差异化方案。
推荐理由:NVIDIA 把 Run:ai 全量开源并纳入 DSX 平台,读者可据此了解 GPU 编排能力的开放范围。
NVIDIA 公布 RTX Spark 笔记本首发(10 月 16 日)的软件与生态更新,覆盖本地智能体、创作应用和开发者工具。
推荐理由:梳理了 RTX Spark 首发时本地智能体、创作与开发工具的适配清单,可据此判断端侧 AI 工作流的可用边界。
vLLM 宣布已支持 NVIDIA Vera Rubin NVL72,在 AgentX 上以 MiniMax M3 达到每 GPU 最高 7.84 倍于 GB200 的吞吐,在 150 TPS 约束下吞吐提升 5.18 倍。
推荐理由:vLLM 官方给出 Rubin 平台的早期适配状态与实测吞吐数据,可据此判断新硬件上的部署准备度。
NVIDIA Dynamo 提出以统一的会话级 ID 把请求级服务基础设施改造成程序感知系统,支持会话感知路由、共享 KV cache 索引和跨 vLLM、SGLang 的程序化缓存迁移。
推荐理由:原文给出会话级 ID、追踪回放与调度策略的完整设计,可据此理解智能体推理服务栈的改造路径。
NVIDIA 宣布在未来五年投入价值 10 亿美元的承诺,用于建设美国在超级智能研究与量子计算等领域的能力,覆盖量子计算、医疗健康和能源安全。该承诺在华盛顿举行的 Science: A New Golden Age 活动上公布,NVIDIA 同时是当日宣布的多项 Genesis Mission 第二阶段奖项的合作方,涉及量子计算、聚变、加速器设计与微电子项目。
推荐理由:NVIDIA 以 10 亿美元投入美国科研与量子计算,读者可了解其与 Genesis Mission 及国家实验室的合作脉络。
NVIDIA 与 Microsoft 在旧金山 Windows AI 活动上宣布为 Windows PC 的 AI 智能体共同设计软硬件,Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统控制下安全持久地在后台运行。
推荐理由:原文给出 RTX Spark 的硬件规格与本地模型运行能力,读者可据此判断 Windows 端侧 AI 的算力边界。
NVIDIA 将于 10 月 23 日通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 发售 DGX Spark 64GB 配置,起售价 4,999 美元,保留 GB10 Grace Blackwell 超级芯片、DGX OS 和完整 NVIDIA AI 软件栈,支持最高 1000 亿参数模型在设备端运行。
推荐理由:原文给出 64GB 配置的定价、上市时间与双机集群扩展方式,可据此判断本地跑大模型的硬件门槛。
OpenAI 的 GPT-6 Astra Ultrafast 已在 OpenAI API 上线,并向符合条件的 ChatGPT Work 和 Codex 用户开放,运行在 NVIDIA Blackwell GPU 上。
推荐理由:原文给出 Astra Ultrafast 相对标准模式的提速幅度与开放入口,读者可据此判断它对编码智能体循环的实际影响。