跳到正文
科技媒体 RSS· Hacker News 热门(buzzing.cc 中文翻译)·· 13 天前AI 评分74

Strata 开源:RTX 4090 上以约 100 token/s 运行 Qwen3.8-Flash-Next (125B)

Strata 开源:在 RTX 4090 等消费级显卡上以约 100 token/s 运行 Qwen3.8-Flash-Next (125B)

AI 导读

Strata 以 MIT 许可免费开源,让 Qwen3.8-Flash-Next (125B) 可在 12 GB 以上显存的普通游戏 PC 上运行,RTX 4090 上生成速度约 100 token/s。模型约 70 GB 下载,需要 32 GB 以上内存和约 80 GB 磁盘空间。

来源:科技媒体 RSS · aihot.news