vLLM 优化 DeepSeek-V4.1-Flash：智能体吞吐提升 5 倍
vLLM 团队与 Inferact 在 DeepSeek-V4.1-Flash 发布后三周内完成优化，在 SemiAnalysis AgentX 智能体服务基准上低并发提速 1.9 倍、150 TPS 约束下吞吐提升 5.3 倍。
推荐理由：原文逐项列出 vLLM 侧的系统优化与对应加速比，可据此判断长上下文智能体推理的部署成本走向。
技术方向
推理能力 最新动态
模型推理能力的进展：思维链、推理模型、数学与逻辑基准的突破与争议。
29 条精选近 30 天 28 条共收录 1,925 条
更新
精选归档 · 第 2 页
vLLM Blog精选AI 评分6262
OpenAI News精选AI 评分6262 OpenAI 公布前沿模型在数学开放问题上的进展
OpenAI 发布内部前沿模型在数学开放问题上的新结果，并在 GitHub 上公开 Lean 证明形式化及相关研究细节。
推荐理由：OpenAI 公开内部前沿模型在数学开放问题上的结果，并放出 Lean 证明形式化与细节，可看模型推理与形式化验证的结合方式。
Redwood Research精选AI 评分6060 前沿模型会因提问者不同而给出不同的决策论偏好
Redwood Research 的研究发现，用“你认为哪种决策论正确”提问时，前沿模型几乎总是回答 FDT 或 FDT/UDT，但当提示词暗示提问者来自主流学术哲学圈时，同一批模型会有约 30%-100% 的样本改答 CDT。
推荐理由：同一批前沿模型在学术与 LW 语境下给出不同决策论偏好，为态度类评测的可信度提供了对照数据。
NVIDIA Blog精选AI 评分7676 NVIDIA GPU 如何加速 OpenAI 的 GPT-6 Astra Ultrafast
OpenAI 的 GPT-6 Astra Ultrafast 已在 OpenAI API 上线，并向符合条件的 ChatGPT Work 和 Codex 用户开放，运行在 NVIDIA Blackwell GPU 上。
推荐理由：原文给出 Astra Ultrafast 相对标准模式的提速幅度与开放入口，读者可据此判断它对编码智能体循环的实际影响。
Google DeepMind精选AI 评分8585 Google DeepMind 发布 Gemini 4 Argon 前沿模型
Google DeepMind 发布新前沿模型 Gemini 4 Argon，先通过 Fairwind Program 向受信任的网络安全防御方开放，随后逐步扩展到开发者、企业和消费者，起步价每百万输入 token 2 美元、输出 token 10 美元。
推荐理由：官方给出 Argon 在编码、企业知识与网络安全防御上的评测成绩和内部落地案例，可据此判断前沿模型的能力边界。
vLLM Blog精选AI 评分6060 vLLM 分离式服务实践指南：拆开 Prefill、Decode 与 CPU 前端
vLLM 官方博客发布分离式服务实践指南，介绍如何把 Prefill、Decode 和 tokenization/解析等 CPU 工作拆成独立层级，需 vLLM v0.30.0 或更高版本。
推荐理由：vLLM 官方拆解分离式服务的四层架构，给出实测数据与配置命令，可据此判断是否值得拆分。
Redwood Research精选AI 评分7474 Redwood Research：GPT-6-Astra 用填充 token 推理的能力远超此前模型
Redwood Research 测量 GPT-6-Astra 在提示词被填充无意义 filler token 且被要求不推理时作答的表现，发现它在需要大量串行认知的任务上明显变好，例如 4-hop 自然事实推理从约 10-20% 提升到约 50%，旧 AIME 题从约 60-70% 提升到约 90%。
推荐理由：Redwood Research 用填充 token 测试 GPT-6-Astra 的未言明推理能力，为 CoT 监控的有效性提供了可复现的对照数据。
vLLM Blog精选AI 评分6666 vllm-metal 发布：在 Apple Silicon 上实现并发推理服务
vllm-metal 发布，把 vLLM 的 V1 调度器、分页 KV 缓存和 OpenAI 兼容服务端带到 Apple Silicon，由 MLX 与 Metal 负责执行。
推荐理由：vllm-metal 把 vLLM 的调度与分页 KV 缓存搬到 Apple Silicon，并给出与 llama.cpp、oMLX 的并发对比数据。
vLLM Blog精选AI 评分6262 vLLM 团队如何用 GB300 NVL72 训练 Kimi K3 的 DSpark 草稿模型
vLLM 团队基于 Speculators 训练库为 2.8T 参数的 Kimi K3 训练出 DSpark 草稿模型，在数学推理上把单流交互速度从约 110 提升到约 435 tok/s/user，并发负载下同等交互速度的输出吞吐最高提升约 3.5 倍。
推荐理由：vLLM 团队公开了在 GB300 NVL72 上训练 Kimi K3 DSpark 草稿模型的完整方案，含 Mooncake 跨节点隐藏态传输与部署命令。