doubleAI 推出 Maxwell:在运行时重写代码并形式化证明等价
Maxwell: A new kind of model that sits between code and hardware
doubleAI 发布 Maxwell,一种在程序运行时观察代码、针对具体机器和数据重写二进制、并对每项优化做形式化等价证明的模型,支持 CPU 和 GPU。
由 doubleAI 打造
Maxwell 能在代码运行时理解并改进它,不仅分析代码,还会推理硬件与数据。每一项改进都经过形式化证明,与原代码等价。阅读宣言
- 38×更快的数据处理流水线
- 4.25×更快的 AI 推理内核
什么是代码执行模型?
一部配有旁白和字幕的动画短片,介绍 Maxwell:大多数代码从未接触过它实际运行的硬件,也从未接触过它处理的数据。Maxwell 会在程序运行时对其进行观察,重写底层的二进制代码以适配那台确切的机器和数据,并形式化证明每一项改进都与原版等价。它可在 CPU 和 GPU 上运行,加速数据流水线和 AI 推理内核。
精选客户
LTX-2.5 将 4K 视频生成时间缩短一半
LTX 从第一天起就以高效为目标打造 LTX-2.5:端到端编译、跨 GPU 的 序列并行、基于手写注意力内核的解码。这是一条由顶尖人类专家构建并优化的流水线。Maxwell 让他们的 4K 生成速度几乎翻倍。
- 1.87×更快的 4K 视频生成
- 134秒在两块 B200 上生成每段 4K 视频,从 250 秒降至 134 秒
Maxwell 演示
观看 Maxwell 如何优化基于 GPU 和基于 CPU 的代码。一旦 Maxwell 获得足够的运行时数据,它就会在程序持续运行的同时,换上针对那台确切机器量身定制、并经过形式化证明的优化。
两个终端在同一块 RTX 4090 上运行同一个 Python 脚本:从冷启动开始,用 Whisper-small 完成 180 次转写。左侧没有 Maxwell,耗时 106.23 秒。右侧有 Maxwell,49.82 秒完成。两者生成的转写结果完全相同。录像以 4 倍速播放。
两个终端在同一台机器上运行同一个 Python 脚本:NetworkX 介数中心性,运行 15 次。左侧没有 Maxwell,耗时 61.44 秒。右侧有 Maxwell,17.50 秒完成。两者打印的结果完全相同。录像以 4 倍速播放。
Maxwell 背后的研究
-
Maxwell 在 Blackwell 上逼近光速
经过一天的搜索,Maxwell 在 SOL-ExecBench 的 Blackwell 内核上击败了 NVIDIA 的 PyTorch 基线,覆盖率达 90%。
(在 doubleai.com 上打开) -
doubleAI 的 Maxwell:大规模超越专家手写内核
独立生成并验证了 NVIDIA cuGraph 的超优化即插即用版本,平均快 3.6 倍。
(在 doubleai.com 上打开) -
无需改动一行代码,pandas 快如闪电
Maxwell 从零开始彻底重写了 pandas 的内核,并针对现代硬件进行了专门优化。
(在 doubleai.com 上打开)
来源:Hacker News · heymaxwell.ai