arXiv cs.AI· Spencer H. Bryngelson·· 2 天前AI 评分60
ANEForge：用 Python 直接调用 Apple Neural Engine
ANEForge: Python for direct computation on the Apple Neural Engine
AI 导读
论文提出 ANEForge，一个无需 CoreML 即可直接编程 Apple Neural Engine 的 Python 包，将惰性张量图编译为单个 ANE 程序，并通过与 Apple 内部框架相同的 ANE daemon 和内核驱动栈派发。
正文 · AI 翻译
摘要：ANEForge 是一个 Python 包，可直接编程 Apple 神经引擎（ANE）——每台近期 Apple 设备上的固定功能神经加速器——而无需 CoreML。在生产环境中，该引擎只能通过 CoreML 访问，而 CoreML 将其视为一种调度选项：没有任何配置要求必须使用 ANE，模型可能会静默地在 CPU 或 GPU 上运行。ANEForge 将基于 58 个融合算子和 19 个原生桥接算子构建的惰性张量图编译为单个 ANE 程序。该程序通过与 Apple 内部框架相同的 ANE 守护进程和内核驱动栈进行调度。除推理之外，该包还能调用引擎原生的融合注意力、流式传输 int8、int4 和稀疏权重、在步骤之间保持解码器和优化器状态常驻，并在引擎上运行训练的前向传播、反向传播和优化器更新。一个小型融合程序约 90us 完成一次调用，接近引擎每程序 70us 的调度下限，而预训练的 ResNet-18 前向传播端到端运行仅需 0.33ms。ResNet-18、一个句子编码器和一个 Vision Transformer 均针对框架参考实现端到端运行，一个 Stable Diffusion U-Net 验证了其前向传播。ANEForge 面向 macOS 14 及更高版本下的 Apple Silicon。每个版本都针对记录的 macOS 和 ANE 编译器版本进行验证。
| 评论： | 8 页 |
| 主题： | 编程语言（cs.PL）；人工智能（cs.AI）；数学软件（cs.MS） |
| 引用为： | arXiv:2606.17090 [cs.PL] |
| （或此版本的 arXiv:2606.17090v2 [cs.PL]） | |
| https://doi.org/10.48550/arXiv.2606.17090 arXiv 颁发的 DOI（通过 DataCite） |
提交历史
来自：Spencer Bryngelson [查看电子邮件]
[v1]
2026 年 6 月 12 日星期五 21:52:06 UTC（15 KB）
[v2]
2026 年 10 月 15 日星期四 00:06:52 UTC（50 KB）
来源：arXiv cs.AI · arxiv.org