Hacker News· joshcsimmons·· 7 天前AI 评分38
LemonSeed Studio:在 iPad 上运行未修改的 Linux amdgpu 驱动并本地推理 LLM
Running the unmodified Linux amdgpu driver on an iPad
AI 导读
LemonSeed Studio 是一款 iPad 应用,将未修改的上游 Linux amdgpu + amdkfd 驱动以 PCIDriverKit 扩展形式嵌入,驱动雷雳外接显卡坞中的 AMD GPU。
正文 · AI 翻译
一款适用于 iPad 的编辑器和 IDE,在 AMD GPU 上实现设备端 LLM 推理。
LemonSeed Studio 是一个单一的 iPad 应用。它捆绑了:
- mac_linuxgpu:未经修改的上游 Linux
amdgpu+amdkfd驱动,作为 PCIDriverKit 扩展嵌入在应用中。它驱动雷雳扩展坞中的 AMD GPU。 - LemonSeed Engine:推理引擎,通过其 HSA 运行时和 HRX/Loom 在该 GPU 上运行。
- amdgpu_mtopg:实时 GPU 遥测。
布局
third_party/mac_linuxgpu GPU driver (submodule)
third_party/LSE inference engine (submodule)
third_party/amdgpu_mtopg GPU monitor (submodule)
获取源代码
git clone --recurse-submodules <repository>
或者,在已有的克隆中:
git submodule update --init
mac_linuxgpu 在首次构建时会稀疏地获取自己固定版本的 Linux 源代码,因此其嵌套的内核子模块无需递归克隆。
许可证
原始代码可在 MIT 或 GPL-2.0-only 下使用,由你选择。参见 LICENSE。捆绑和子模块组件保留各自的许可证;参见 THIRD_PARTY.md。
来源:Hacker News · github.com