跳到正文
RadarAI· GitHubDaily·· 11 小时前AI 评分58

Splash 发布苹果芯片 Mac 本地 AI 推理引擎

Splash:苹果芯片 Mac 的本地 AI 推理引擎

AI 导读

Splash 是面向苹果 M3 及以上芯片 Mac 的开源本地推理引擎,宣称同等模型下比 llama.cpp 快四倍,并支持接入 Claude Code 等工具以省去 API 计费。以 27B 模型为例,在 M5 Pro 上达到每秒 74 个 token。

来源:RadarAI · bestblogs.dev