RadarAI· David Hendrickson·· 6 小时前AI 评分42
RTX 5090 在更新版 Infernix 推理引擎上实现 390 tps Qwen3.8-Flash-Next 推理
RTX 5090 在更新版 Infernix 推理引擎上实现 390 tps Qwen3.8-Flash-Next
AI 导读
单块 32GB 显存的 RTX 5090 借助更新版 Infernix 推理引擎,运行 Qwen3.8-Flash-Next 达到 390 tps(最高 452 tps)。该配置结合 DFlash2 speculative 解码与 INT8 KV 缓存,性能较其他配置提升 6.5 倍。
来源:RadarAI · bestblogs.dev