跳到正文
RadarAI· X:面壁智能 OpenBMB (@OpenBMB)·· 2 小时前AI 评分27

OpenBMB 的 MiniCPM 获浏览器端本地 AI 聊天工具 moochy chat 支持

MiniCPM 获 moochy chat 支持

AI 导读

OpenBMB 的 MiniCPM 已在 moochy chat 中获得支持,该工具完全在浏览器标签页内本地运行,模型下载后无需联网。moochy chat 支持 CPU 或 GPU 推理,部分模型可达 150 tokens/s,无订阅、无 API key、100% 免费,基准测试中快于 WebLLM、wllama 和 Transformers.js。

正文 · AI 翻译

OpenBMB· @OpenBMB · X·2026-11-18 09:15· 1 小时前AI 评分48

AI 导读

很高兴看到 MiniCPM 在 moochy chat 中获得支持!💙 完全本地化的 AI 直接在浏览器中运行,令人兴奋。做得好!🚀

正文 · 原文

Love seeing MiniCPM supported in moochy chat! 💙 Fully local AI right in the browser is exciting. Great work! 🚀

引用sanixdk@sanixdarker

作为这个项目的延续,我目前正在它之上做一些有趣的东西。

介绍 moochy chat:一个完全在你的浏览器标签页中运行的本地 AI 聊天(CPU 或 GPU),这意味着模型在浏览器标签页中下载完成后,你无需联网即可使用它。

got4 的 Web Assembly 体积小于 54Kb。
页面首次加载为 135Kb。

对于某些模型,你可以达到每秒 150 个 token。
无订阅,无 API 密钥,100% 免费。
目前,在基准测试中比 WebLLM(@mlc_ai_)、wllama(@ngxson)和 Transformers.js(@xenovacom)更快。

目前提供的模型有:@OpenBMB(MiniCPM)、@Alibaba_Qwen、@MistralAI、@AIatMeta(Llama)、@deepseek_ai、@huggingface(SmolLM)

#LocalLLM #WebGPU #BuildInPublic

在 X 查看被引用的帖子

来源:OpenBMB · x.com

来源:RadarAI · aihot.news