Hacker News· snehesht·· 13 天前AI 评分21
在消费级硬件（RTX 4090）上以 100T/s 运行 Qwen 3.8 Flash Next（125B）
Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s
AI 导读
有开发者展示了在单张 RTX 4090 消费级显卡上运行 Qwen 3.8 Flash Next（125B）的可行方案，推理速度达到 100T/s。该方案针对 125B 参数规模的模型在消费级硬件上实现了高吞吐推理。
来源：Hacker News · github.com