RadarAI· X:面壁智能 OpenBMB (@OpenBMB)·· 9 天前AI 评分43
MiniCPM5-2B 在 iPhone Air 上跑出 37 tok/s
AI 导读
MiniCPM5-2B 在 iPhone Air 上实现 37 tok/s 的推理速度,无需云端 GPU 即可运行。该 2B 参数开源模型已上线 NobodyWho Chat 应用,被评价为同规模中最好的开源模型之一,可在移动端提供多模态智能。
正文 · AI 翻译
OpenBMB· @OpenBMB · X·2026-10-09 16:29· 31 分钟前AI 评分43
AI 导读
在 iPhone Air 上跑到 37 tok/s,太猛了。🚀 这正是小而强的开源模型大放异彩的地方:无需云端 GPU 就能拥有强大的多模态智能。很高兴看到 MiniCPM5-2B 在移动端流畅运行。
正文
在 iPhone Air 上跑到 37 tok/s,太猛了。🚀
这正是小而强的开源模型大放异彩的地方:无需云端 GPU 就能拥有强大的多模态智能。很高兴看到 MiniCPM5-2B 在移动端流畅运行。
在 iPhone Air 上以 37 tok/s 运行来自 @OpenBMB 的 MiniCPM5。 2B 参数级别最好的开源模型之一,现已在 NobodyWho Chat 应用中提供。在 X 查看被引用的帖子
来源:OpenBMB · x.com
来源:RadarAI · aihot.news