跳到正文
Hacker News· joshcsimmons·· 7 天前AI 评分38

LemonSeed Studio:在 iPad 上运行未修改的 Linux amdgpu 驱动并本地推理 LLM

Running the unmodified Linux amdgpu driver on an iPad

AI 导读

LemonSeed Studio 是一款 iPad 应用,将未修改的上游 Linux amdgpu + amdkfd 驱动以 PCIDriverKit 扩展形式嵌入,驱动雷雳外接显卡坞中的 AMD GPU。

正文 · AI 翻译

LemonSeed Studio icon: a house with a seedling and three seeds inside

一款适用于 iPad 的编辑器和 IDE,在 AMD GPU 上实现设备端 LLM 推理。

LemonSeed Studio 是一个单一的 iPad 应用。它捆绑了:

  • mac_linuxgpu:未经修改的上游 Linux amdgpu + amdkfd 驱动,作为 PCIDriverKit 扩展嵌入在应用中。它驱动雷雳扩展坞中的 AMD GPU。
  • LemonSeed Engine:推理引擎,通过其 HSA 运行时和 HRX/Loom 在该 GPU 上运行。
  • amdgpu_mtopg:实时 GPU 遥测。

布局

third_party/mac_linuxgpu   GPU driver (submodule)
third_party/LSE            inference engine (submodule)
third_party/amdgpu_mtopg   GPU monitor (submodule)

获取源代码

git clone --recurse-submodules <repository>

或者,在已有的克隆中:

git submodule update --init

mac_linuxgpu 在首次构建时会稀疏地获取自己固定版本的 Linux 源代码,因此其嵌套的内核子模块无需递归克隆。

许可证

原始代码可在 MIT 或 GPL-2.0-only 下使用,由你选择。参见 LICENSE。捆绑和子模块组件保留各自的许可证;参见 THIRD_PARTY.md。

来源:Hacker News · github.com