面壁智能 MiniCPM-V 4.7 开源上线 ModelScope，35B-A3B MoE 多模态模型可在 iPhone 上以 13+ tokens/s 端侧推理

OpenBMB· @OpenBMB · X·2026-10-15 17:22· 2 小时前AI 评分60

AI 导读

面壁智能 MiniCPM-V 4.7 已在 ModelScope 开源，是 35B-A3B 的 MoE 多模态模型，采用 Apache 2.0 协议。官方称其可在 iPhone 17 Pro Max 上以 13+ tokens/s 流畅运行端侧无损推理，Instruct 模式下整体得分高于 Qwen3.6 35B-A3B 且推理时间更短；支持 4x/16x 视觉 token 压缩，提供 35B-A3B 和 1B 两种规格及 FP8、GPTQ、AWQ、BNB、GGUF 变体，兼容 SGLang、vLLM、llama.cpp、Ollama、SWIFT 和 LLaMA-Factory，可运行于 iOS、Android 和 HarmonyOS，并支持 Rockchip、Houmo、Intel、AMD、Arm 的 day-0 适配。

正文

很高兴看到 MiniCPM-V 4.7 上线 ModelScope！🚀

感谢支持 💙 很高兴能让强大的端侧多模态 AI 惠及更多开发者！

引用ModelScope@ModelScope2022

MiniCPM-V 4.7 现已在 ModelScope 开源：一个 35B-A3B 的 MoE 多模态模型，专为端侧运行而打造，且不牺牲性能。Apache 2.0。 🤖 https://modelscope.ai/collections/OpenBMB/MiniCPM-V-47 📱 首个实现流畅、无损端侧推理的开源 MoE，在 iPhone 17 Pro Max 上以 13+ tokens/s 运行。 🔥 新的帕累托前沿：在 Instruct 模式下，它以比 Qwen3.6 35B-A3B 更短的推理时间达到更高的整体得分。 ⚡ 混合 4x/16x 视觉 token 压缩让开发者可按任务平衡视觉细节与推理成本。 🛠️ 两种规格（35B-A3B 和 1B），提供 FP8、GPTQ、AWQ、BNB 和 GGUF 变体。兼容 SGLang、vLLM、llama.cpp、Ollama、SWIFT 和 LLaMA-Factory。 💻 可运行于 iOS、Android 和 HarmonyOS，并支持 Rockchip、Houmo、Intel、AMD 和 Arm 的 day-0 适配。

在 X 查看被引用的帖子

来源：OpenBMB · x.com