跳到正文
科技媒体 RSS· IT之家(RSS)·· 12 天前AI 评分62

Strata 开源引擎让 12GB 显存显卡运行 125B Qwen3.8-Flash-Next,RTX 5070 达 94 词元/秒

AI 导读

开发者 Niko1221 开源推出 Strata 引擎,可在 12GB 及以上显存的消费级显卡上运行量化的 125B 参数 Qwen3.8-Flash-Next 模型。在 RTX 5070 上,该引擎运行该模型的吞吐达到 94 词元/秒。

来源:科技媒体 RSS · aihot.news