vLLM Semantic Router 发布 27B 开源多模态决策模型 d3-ultra
vLLM Semantic Router 团队发布 Apache-2.0 开源的 27B 多模态决策模型 d3-ultra，不生成文本，而是单次读取输入后对每个问题返回概率，支持 Choice、Yes/No、Score、Box、Track 五类问题。
MarkTechPost· Asif Razzaq·2026-10-27 13:50· 2 小时前AI 评分52
vLLM Semantic Router 发布 d3-ultra：一个 27B 开源多模态决策模型
AI 导读
vLLM Semantic Router 团队发布 Apache-2.0 开源的 27B 多模态决策模型 d3-ultra，属于 Decision 3.0 家族，不生成文本，而是单次读取输入后对每个问题返回概率，支持 Choice、Yes/No、Score、Box、Track 五类问题。
正文 · 原文
vLLM Semantic Router 团队发布了 d3-ultra，这是一个采用 Apache-2.0 许可的 27B 多模态决策模型。d3-ultra 决策模型不生成文本。它只读取一次输入，然后为每个问题的每个答案返回一个概率。对开发者而言，这意味着只需 1 次开放权重调用即可完成路由、分类、视觉定位和视频检查。
TL;DR
- 规模：26.09B 参数（稠密，包含一个 0.46B 视觉编码器）；每个问题 131,072 个 token 的上下文。
- 运行于：在 1 块 AMD Instinct MI325X 上以 BF16 权重测试；目前尚未列出官方量化版本。
- 性能：在团队自己的私有测试中，SR-Text 得分在 6 个决策模型中最高。
- 最佳：SR-Text 工具与自动化得分为 97.8（机会校正准确率）。
- 最差：SR-Box（9 个领域）为 54.6%，比同系列的 d3-turbo 低 5.0 分。
什么是 d3-ultra？
d3-ultra 是 vLLM Semantic Router 推出的 System One 决策模型，用概率回答带类型的问题。它是 Decision 3.0 家族的最新成员，该家族覆盖 0.6B 到 27B。
你发送一个状态（文本或 JSON，外加图像或视频）和一组问题。每个问题都有一个类型：
- Choice：从多个选项中选 1 个。
- Yes / No：返回 yes 的概率。
- Score：按量表打分。
- Box：在图像或视频片段中定位某个目标。
- Track：在整个视频中跟踪一个目标。
图像也可以放在问题和选项里。一道题可以展示一张照片，然后提供 4 张蚀刻图作为答案。
d3-ultra 如何工作？
核心思想是一次读取状态。模型对每个请求只读取一次输入，并基于这一次读取回答所有问题。
配置显示其骨干网络采用 Qwen3.5 架构，共 64 层。其中 48 层是线性注意力层，16 层是全注意力层。模型卡未说明其基础检查点。vLLM 的 配方称同系列的 d3 是基于 Qwen3.8-27B 训练的。
Box 答案始终返回恰好 1 个框及其置信度。置信度接近 0 表示目标不在图中。超过 131,072 个 token 的问题会以 max_length_exceeded 失败；不会发生静默截断。
d3-ultra 在基准测试中表现如何？
研究团队在 2 项内部测试中将 d3-ultra 与 GLiDE V1.2、d1-ultra、d3-turbo、d3 和 Jev 1.14 进行比较。
SR-Text 包含 10,411 个文本请求和 73,495 个问题。其中大部分是用新题目复现 34 个公开基准中的技能。另有 4,896 个问题来自 43 个新任务族，例如 SQL 检查和工单路由。分数经过机会校正：0 为随机水平，100 为完美。
- d3-ultra：87.2
- GLiDE V1.2：85.1
- d1-ultra：83.4
- d3-turbo：83.1
- d3：81.4
- Jev 1.14：73.1
d3-ultra 在除艺术和人类品味之外的每个领域都领先。在艺术和人类品味领域，d1-ultra 得分为 90.8，而 d3-ultra 为 89.6，差距在误差范围内。
SR-Box 在 10 个领域的 4,984 张图片上包含 5,678 个 Box 问题。IoU 达到 0.5 或更高时，一个 box 才算正确。d3-ultra 在 10 个领域上得分为 58.2%，在 9 个领域上为 54.6%。d3-turbo 的得分分别为 60.0% 和 59.6%。Jev 1.14 的得分分别为 45.7% 和 46.9%。团队表示，d3-turbo 在自然图像上仍然更强，而 d3-ultra 在图表上领先。
延迟：在 1 块 AMD Instinct MI325X 上使用 AutoModel，针对一张照片的 1 个问题耗时 304 毫秒。255 个问题耗时 2.16 秒，每增加一个问题约 7.3 毫秒。
如何部署 d3-ultra？
共有 4 种方式：
- Transformers：
AutoModel.from_pretrained("vllm-sr/d3-ultra", trust_remote_code=True)搭配transformers==5.17.0。可选的flash-linear-attention包会增加快速 GPU 内核。 - vLLM Semantic Router Engine：
vllm-sr serve -e vllm-sr/d3-ultra，于 2026 年 10 月 25 日在 PR #5449 中加入。 - 免费 API：模型卡称 decision.vllm-sr.ai 提供 d3-ultra 服务，并提供免费密钥。
- 演示：官方 Hugging Face Space。
d3-ultra 对比 GLiDE V1.2、d1-ultra、Jev 1.14 和 d3-turbo
| 特性 | d3-ultra | d3-turbo | GLiDE V1.2 | d1-ultra | Jev 1.14 |
|---|---|---|---|---|---|
| 开发者 | vLLM Semantic Router | vLLM Semantic Router | Fastino Labs | Liquid AI | TypeSafe |
| 参数量 | 26.09B | 26.09B | 26B | 未披露 | 未披露 |
| 每个问题的上下文 | 131,072 | 默认 32,768；使用 long_context 时为 131,072 | 默认 40,000 | 32,768 | 262,144 |
| 权重 / 许可证 | 开放，Apache-2.0 | 开放，Apache-2.0 | 开放，Fastino Community License | 仅托管 | 仅托管，专有 |
| 输入 | 文本、JSON、图像、视频 | 文本、JSON、图像、视频 | 文本、JSON、图像 | 文本、图像 | 文本、图像 |
| Box / track | Box + track | Box + track | 否 | 否 | 仅 Box |
| SR-Text（由 vLLM-SR 自行报告） | 87.2 | 83.1 | 85.1 | 83.4 | 73.1 |
| SR-Box，10 个领域 | 58.2% | 60.0% | 不支持 | 不支持 | 45.7% |
| 公开指数得分 | 已提交，尚未上榜 | 70.2 Jev DI（自行估算） | 71.5 Decision Index 0.4.1 | 65 AA Decision Index | 57 AA Decision Index |
| 价格 | 免费 API，自托管 | 免费 API，自托管 | $0.04 / M input | $0.042 / M input | $0.042 / M input |
关键要点
- d3-ultra 是一个 27B 的 Apache-2.0 决策模型，从不生成文本。
- 它只读取输入一次：关于 1 张照片的 255 个问题耗时 2.16 秒。
- 它在团队的 SR-Text 测试中以 87.2 位居榜首，领先 GLiDE V1.2 的 85.1。
- 它在 Box 定位上落后于 d3-turbo：58.2% 对 60.0%。
- 所有基准测试数字均为在私有测试集上自行报告。
查看 模型卡、GitHub 仓库、Decision 3.0 合集 以及 Hugging Face Space。另外，欢迎在 Twitter 上关注我们，别忘了加入我们的 150k+ML SubReddit 并订阅 我们的 Newsletter。等等！你在 Telegram 上吗？现在你也可以在 Telegram 上加入我们。
需要与我们合作推广你的 GitHub 仓库、Hugging Face 页面、产品发布或网络研讨会等？联系我们
文章 vLLM Semantic Router Releases d3-ultra: A 27B Open Multimodal Decision Model 首次发表于 MarkTechPost。
来源：MarkTechPost · marktechpost.com
来源：RadarAI · aihot.news