GitHub·· 9 天前AI 评分40
lrusso/llama3pure:Llama 3 的纯 C 与纯 JavaScript 推理引擎
lrusso/llama3pure
AI 导读
lrusso/llama3pure 为 Llama 3 提供三个推理引擎:面向桌面系统的纯 C 版本、面向 Node.js 的纯 JavaScript 版本,以及面向 Web 环境的纯 JavaScript 版本。该项目同时支持 Llama 与 Gemma 架构。
来源:GitHub · github.com