vLLM Semantic Router 发布 27B 决策模型 d3-ultra

vLLM Semantic Router 团队以 Apache-2.0 协议发布 27B 多模态决策模型 d3-ultra。该模型不生成文本，单次读取输入后对每个问题返回概率，支持 Choice、Yes/No、Score、Box、Track 五类问题。 据模型卡说明，decision.vllm-sr.ai 以免费 key 提供该模型的 API；模型在单张 AMD Instinct MI325X 上以 BF16 权重测试，尚无官方量化版本。超过 131,072 token 的问题会以 max_length_exceeded 报错，不会被静默截断。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。