跳到正文
RadarAI· GitHubDaily·· 1 天前AI 评分58

TurboFieldfare 让 8GB MacBook Air 运行 Gemma 4 26B-A4B 模型

TurboFieldfare:8GB MacBook Air 运行 26B 大模型的突破技术

AI 导读

TurboFieldfare 通过 Swift 和 Metal 让 26B 参数的 Gemma 4 26B-A4B 模型在 8GB 内存的 MacBook Air 上本地运行,仅占 2GB 内存,推理速度 5-6 token/秒。该方案为模型专门编写了实现,但材料仅提供摘要,未给出完整技术细节。

来源:RadarAI · bestblogs.dev