科技媒体 RSS· IT之家(RSS)·· 12 天前AI 评分62
Strata 开源引擎让 12GB 显存显卡运行 125B Qwen3.8-Flash-Next,RTX 5070 达 94 词元/秒
AI 导读
开发者 Niko1221 开源推出 Strata 引擎,可在 12GB 及以上显存的消费级显卡上运行量化的 125B 参数 Qwen3.8-Flash-Next 模型。在 RTX 5070 上,该引擎运行该模型的吞吐达到 94 词元/秒。
来源:科技媒体 RSS · aihot.news