跳到正文
RadarAI· David Hendrickson·· 6 小时前AI 评分42

RTX 5090 在更新版 Infernix 推理引擎上实现 390 tps Qwen3.8-Flash-Next 推理

RTX 5090 在更新版 Infernix 推理引擎上实现 390 tps Qwen3.8-Flash-Next

AI 导读

单块 32GB 显存的 RTX 5090 借助更新版 Infernix 推理引擎,运行 Qwen3.8-Flash-Next 达到 390 tps(最高 452 tps)。该配置结合 DFlash2 speculative 解码与 INT8 KV 缓存,性能较其他配置提升 6.5 倍。

来源:RadarAI · bestblogs.dev