跳到正文
RadarAI· X:面壁智能 OpenBMB (@OpenBMB)·· 5 天前AI 评分47

面壁智能 MiniCPM-V 4.7 登陆 Apple Silicon,Mac 端侧推理 Day 0 支持

MiniCPM-V 4.7 登陆 Apple Silicon,实现 Mac 端侧推理

AI 导读

面壁智能 MiniCPM-V 4.7(1B 与 35B-A3B)通过与 Nativ 合作,在 Mac 上实现 Day 0 全端侧推理,支持图像与视频理解,数据完全留在本地。

正文 · AI 翻译

OpenBMB· @OpenBMB · X·2026-10-13 14:46· 2 小时前AI 评分38

AI 导读

面壁智能 MiniCPM-V 4.7(1B 与 35B-A3B)通过与 Nativ 合作,在 Mac 上实现 Day 0 全端侧推理支持,可处理图像与视频理解,数据完全留在本地。

正文

🚀 MiniCPM-V 4.7 现已在 Apple Silicon 上运行!
得益于我们与 @Nativ_AI 的合作,MiniCPM-V 4.7(1B 与 35B-A3B)现已实现 Day 0 支持,可在 Mac 上完全端侧推理。

借助 Nativ,你可以运行:
🧠 MiniCPM-V 4.7-35B-A3B — 35B 能力,推理高效
⚡ MiniCPM-V 4.7-1B — 面向边缘设备的轻量视觉模型
📷 图像 + 视频理解
🔒 完全本地 — 你的数据留在你的设备上

在 Apple Silicon 上使用 Nativ v0.4.x 测试:
1B:24K+ prefill tokens/s,315 tok/s decode
35B-A3B:4K+ prefill tokens/s,90 tok/s decode
让强大的多模态模型更贴近日常设备。🍎
非常感谢 Nativ 团队让这一切成为可能!
🔗 Nativ:https://github.com/Blaizzy/nativ

来源:OpenBMB · x.com

来源:RadarAI · aihot.news