跳到正文
RadarAI· TechVerser·· 1 天前AI 评分62

开发者用 WebAssembly 与 WebGPU 在浏览器离线运行 125B 参数模型

125B 大模型在浏览器中离线运行,突破本地 AI 边界

AI 导读

开发者 nwtgck 在浏览器中通过 WebAssembly 与 WebGPU 完整离线运行 Qwen3.8-Flash-Next UD-Q4_K_XL,该模型为 125B 参数、文件超过 100GiB,推理全程本地完成、无需上传数据。方案使用 Chrome showOpenFilePicker API 直接挂载 .gguf 文件,以绕过存储与隐私瓶颈。

来源:RadarAI · bestblogs.dev