跳到正文
  1. vLLM Blog62

    vLLM 从 Day 0 支持 Reflection Beam,并针对 NVIDIA Blackwell 优化

    vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE,并在 NVIDIA Blackwell 上完成优化,推理、工具调用和结构化输出开箱可用。

    推荐理由:vLLM 从 Day 0 支持 Beam 并给出内核融合与自适应验证的实测数据,可看推理栈如何承接新架构。

  2. Together AI Blog78

    Meta Muse Spark Open 上线 Together AI,支持 1M token 上下文与智能体编码

    Meta 的 Muse Spark Open 已在 Together AI 上线,Together AI 是其 Day 0 发布伙伴。该模型面向长时程智能体编码工作流,具备 1M token 上下文窗口、长时程自主规划与自我纠错、可协调子智能体、跨桌面移动端与浏览器的 computer use 与多模态浏览,并接受文本、图像、音频和音视频输入,还会在执行前说明意图。

    推荐理由:官方给出 Muse Spark Open 的上下文窗口、定价与调用方式,可据此判断它在长时程编码智能体上的可用性。

  3. vLLM Blog78

    vLLM 为 Meta Muse Spark Open 提供 Day 0 支持

    vLLM 与 Meta Superintelligence Labs 合作,在 Muse Spark Open 发布当天为其提供 Day 0 支持。

    推荐理由:vLLM 在发布当天给出 Muse Spark Open 的部署命令、量化格式与 DSpark 投机解码配置,可据此评估 1M 上下文的生产落地成本。

  4. AWS Machine Learning Blog60

    Meta 的 Muse Spark Open 上线 Amazon SageMaker JumpStart

    Meta 的编码优化开源权重模型 Muse Spark Open 已在 Amazon SageMaker JumpStart 上线,可在自己的 AWS 账户中部署为 SageMaker AI 端点。

    推荐理由:Meta 的编码优化开源模型接入 SageMaker JumpStart,文中给出两种量化变体的实例选型与部署步骤,可据此估算自托管成本。

  5. NVIDIA Newsroom62

    NVIDIA 发布 RTX Spark,面向创作者、玩家与 AI 智能体的 Windows PC

    NVIDIA 发布 RTX Spark,定位为一台面向创作者、玩家和 AI 智能体的 Windows PC,并将于 10 月 16 日在旧金山、柏林、台北、北京、伊斯坦布尔、首尔等地举办发布活动。

    推荐理由:NVIDIA 官方公布 RTX Spark 的定位与全球发布活动安排,并汇总多家媒体对本地 AI 与游戏表现的早期评价。

  6. Google DeepMind60

    Google DeepMind 用 Google Antigravity 加速抗菌肽发现

    Google DeepMind 介绍用其智能体开发平台 Google Antigravity 加速抗菌肽发现,把过去分散在多个数据库的检索压缩到一次会话中。平台借助 ProtNLM 从氨基酸序列预测生物功能,扫描 UniProt 中数百万条未表征蛋白,找到一条对呼吸道感染相关病原体有预测活性的新型抗菌肽候选,目前正进行湿实验验证。

    推荐理由:原文给出智能体科研工作台在抗菌肽发现中的完整流程,可了解跨库检索与结构分析如何被压缩进单次会话。

  1. vLLM Blog62

    NVIDIA Nemotron 3.5 Super VL 发布,vLLM 首日支持

    NVIDIA 发布开源多模态模型 Nemotron 3.5 Super VL,采用 120B 总参数、12B 激活参数的 MoE 架构,支持文本、图像、文档和视频输入,输出文本。

    推荐理由:原文给出模型架构、部署配置与吞吐对比,读者可据此判断多模态智能体推理的落地成本。

  2. PyTorch Blog60

    ExecuTorch 推出 Arm Cortex-M CPU 后端,PyTorch 模型可直接跑在 MCU 上

    PyTorch 官方博客发布 ExecuTorch 的 Arm Cortex-M 后端,让 PyTorch 模型无需转换格式即可直接运行在 Cortex-M CPU 上,并通过 CMSIS-NN 加速,覆盖 Scalar、DSP 和 MVE/Helium 全部能力档位。

    推荐理由:ExecuTorch 新增 Cortex-M 后端,给出各能力档位与 MLPerf Tiny 实测数据,可据此评估 MCU 端部署路径。

  3. vLLM Blog62

    vLLM 推出 push 模式 NIXL KV 传输,TTFT 最高改善 3 倍

    vLLM 发布基于 push 的 NIXL KV 传输连接器 NixlPushConnector,把传输协调与建立从解码实例的关键路径移到预填充侧的后台线程。

    推荐理由:vLLM 官方给出 push 模式 KV 传输的架构与复现脚本,可对照 pull 模式判断是否切换部署。

  1. NVIDIA Technical Blog60

    NVIDIA 将 Run:ai 平台开源,纳入 DSX AI Factory 平台

    NVIDIA 宣布将完整的 Run:ai 平台以开源软件形式发布,向客户、开发者和生态伙伴开放生产级 AI 工作负载与 GPU 编排能力。该版本把 Run:ai 定位为开放基础,用于扩展 NVIDIA DSX AI Factory 平台,让更广泛的生态在此基础上推出差异化方案。

    推荐理由:NVIDIA 把 Run:ai 全量开源并纳入 DSX 平台,读者可据此了解 GPU 编排能力的开放范围。

  1. Sierra Blog60

    Sierra 发布 Personal Agent Protocol(Poppy)草案并新增 35 家设计伙伴

    Sierra 发布 Personal Agent Protocol(Poppy)草案,并公布新增 35 家设计伙伴,包括 OpenAI、Visa、Mastercard、PayPal、Target、Walmart 等。

    推荐理由:协议草案给出了个人智能体与商家协作的五个构建模块,可据此判断现有网站与 API 的接入方式。

  1. vLLM Blog62

    vLLM 支持 NVIDIA Vera Rubin NVL72,AgentX 吞吐达 GB200 NVL72 的 7.8 倍

    vLLM 宣布已支持 NVIDIA Vera Rubin NVL72,在 AgentX 上以 MiniMax M3 达到每 GPU 最高 7.84 倍于 GB200 的吞吐,在 150 TPS 约束下吞吐提升 5.18 倍。

    推荐理由:vLLM 官方给出 Rubin 平台的早期适配状态与实测吞吐数据,可据此判断新硬件上的部署准备度。

  1. NVIDIA Blog71

    NVIDIA 与 Microsoft 发布 RTX Spark 及 Windows 智能体基础设施

    NVIDIA 与 Microsoft 在旧金山 Windows AI 活动上宣布为 Windows PC 的 AI 智能体共同设计软硬件,Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统控制下安全持久地在后台运行。

    推荐理由:原文给出 RTX Spark 的硬件规格与本地模型运行能力,读者可据此判断 Windows 端侧 AI 的算力边界。

  2. GitHub Blog · AI & ML62

    GitHub 推出基于 ModernBERT 的通用密钥检测模型

    GitHub 发布基于 ModernBERT 的通用密钥检测模型,用上下文判断数据库 URL、Kubernetes Secret manifest 和 Dockerfile 中的密码类值,可在 2 毫秒内评估一批候选密钥,并称可将可拦截的密钥数量提升一倍以上。

    推荐理由:GitHub 公开了九季度密钥泄露数据,并说明新分类器如何把防护从人工响应转向推送前拦截。

  3. Microsoft Research71

    微软开源 Agent Lightning v1.0:3500 行代码的轻量级 Agentic RL 框架

    微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量级 Agentic RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架内重新实现 agent。

    推荐理由:原文给出框架的代码规模、Kubernetes 支持与端到端训练数据,读者可据此判断接入现有 agent harness 做 RL 的成本。

  1. Together AI Blog62

    Together AI 发布 Together Link,把开源模型接入现有编码智能体

    Together AI 发布 Together Link,可将团队已在用的编码智能体接入其开源模型,官方称可降低超过 50% 的开销。该工具支持 Claude Code、Claude Desktop、Codex(ChatGPT 应用与 CLI)、OpenCode 和 Pi,设置与登录保持不变,一条命令即可安装并随时切回原生闭源模型。

    推荐理由:官方给出接入命令、路由规则与按会话计费对比,可据此估算团队编码智能体的成本变化。

  1. NVIDIA Blog62

    NVIDIA 推出 DGX Spark 64GB 配置,支持双机集群扩展本地 AI

    NVIDIA 将于 10 月 23 日通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 发售 DGX Spark 64GB 配置,起售价 4,999 美元,保留 GB10 Grace Blackwell 超级芯片、DGX OS 和完整 NVIDIA AI 软件栈,支持最高 1000 亿参数模型在设备端运行。

    推荐理由:原文给出 64GB 配置的定价、上市时间与双机集群扩展方式,可据此判断本地跑大模型的硬件门槛。

  2. NVIDIA Blog76

    NVIDIA GPU 如何加速 OpenAI 的 GPT-6 Astra Ultrafast

    OpenAI 的 GPT-6 Astra Ultrafast 已在 OpenAI API 上线,并向符合条件的 ChatGPT Work 和 Codex 用户开放,运行在 NVIDIA Blackwell GPU 上。

    推荐理由:原文给出 Astra Ultrafast 相对标准模式的提速幅度与开放入口,读者可据此判断它对编码智能体循环的实际影响。