MiniCPM-V 4.7 在 Jetson AGX Orin 本地跑视觉与机器人规划
MiniCPM-V 4.7 在 Jetson Orin 本地跑视觉与机器人规划
MiniCPM-V 4.7 35B-A3B 在 64GB Jetson AGX Orin 上本地运行视觉与机器人规划,prefill 达 1,641 tok/s、decode 达 179 tok/s。
OpenBMB· @OpenBMB · X·2026-11-19 09:39· 1 小时前AI 评分41
AI 导读
太惊人了!🤯 MiniCPM-V 4.7 在 Jetson AGX Orin 上本地运行视觉和机器人规划,令人兴奋。出色的优化工作,迫不及待想看到你的引擎!🚀💙
正文 · 原文
太惊人了!🤯 MiniCPM-V 4.7 在 Jetson AGX Orin 上本地运行视觉和机器人规划,令人兴奋。出色的优化工作,迫不及待想看到你的引擎!🚀💙
在 X 查看被引用的帖子🤖 𝗝𝗘𝗧𝗦𝗢𝗡 𝗢𝗥𝗜𝗡 𝗔𝗚𝗫 𝗢𝗪𝗡𝗘𝗥𝗦 𝗥𝗘𝗝𝗢𝗜𝗖𝗘! 𝗜 𝗴𝗼𝘁 𝗠𝗶𝗻𝗶𝗖𝗣𝗠-𝗩 𝟰.𝟳 𝟯𝟱𝗕-𝗔𝟯𝗕 𝘁𝗼 𝗿𝘂𝗻 𝗮𝘁 𝟭𝟳𝟵 𝘁𝗼𝗸/𝘀 𝗱𝗲𝗰𝗼𝗱𝗲 𝗮𝗻𝗱 𝟭,𝟲𝟰𝟭 𝘁𝗼𝗸/𝘀 𝗽𝗿𝗲𝗳𝗶𝗹𝗹 𝗼𝗻 𝗮 𝟲𝟰𝗚𝗕 𝗝𝗲𝘁𝘀𝗼𝗻 𝗔𝗚𝗫 𝗢𝗿𝗶𝗻! 𝗪𝗜𝗧𝗛 𝗩𝗜𝗦𝗜𝗢𝗡!! 🤯
一次运行,三项任务:
预填充:在 50W 功耗下,2.31 秒内处理 3.8K token 的提示词,达到 1,641.6 tok/s
图像分析:通过 8 位视觉塔处理一帧 1672x941 的公园摄像头画面。首 token 耗时 883ms,82.7 tok/s。它识别出了狗、长椅、背包、自行车和郁金香。
机器人轮控规划:在 45W 功耗下达到 179 tok/s,dSparK 草稿 token 的接受率为 91.8%。要求它以 0.8m/s 行驶 2m,在人行横道处暂停,左转 90 度,再行驶 1.5m 到达停靠点。它输出的 JSON 时长和转向速率经核对完全正确!!
Jetson 开发板本就是为机器人打造的,而现在它能在机器人友好的功耗下本地看懂场景并规划动作。这是机器人技术朝着正确方向迈出的一大步 🚀
我的 SAGE EXL3 3.74bpw 量化版本运行在我与 @mr_r0b0t 正在构建的 stealth 引擎上。解码采用贪心策略并配合投机解码,因此开放式聊天性能较低,约为 108 tok/s。引擎即将发布 👀
恭喜 @OpenBMB。@NVIDIAAI @NVIDIARobotics 这个献给 Orin 用户群体 🫡
来源:OpenBMB · x.com
来源:RadarAI · aihot.news