RadarAI· GitHubDaily·· 11 小时前AI 评分58
Splash 发布苹果芯片 Mac 本地 AI 推理引擎
Splash:苹果芯片 Mac 的本地 AI 推理引擎
AI 导读
Splash 是面向苹果 M3 及以上芯片 Mac 的开源本地推理引擎,宣称同等模型下比 llama.cpp 快四倍,并支持接入 Claude Code 等工具以省去 API 计费。以 27B 模型为例,在 M5 Pro 上达到每秒 74 个 token。
来源:RadarAI · bestblogs.dev