跳到正文
Hacker News· laginimaineb·· 20 小时前AI 评分75

doubleAI 推出 Maxwell:在运行时重写代码并形式化证明等价

Maxwell: A new kind of model that sits between code and hardware

AI 导读

doubleAI 发布 Maxwell,一种在程序运行时观察代码、针对具体机器和数据重写二进制、并对每项优化做形式化等价证明的模型,支持 CPU 和 GPU。

正文 · AI 翻译

由 doubleAI 打造

Maxwell 能在代码运行时理解并改进它,不仅分析代码,还会推理硬件与数据。每一项改进都经过形式化证明,与原代码等价。阅读宣言 

  • 38×更快的数据处理流水线
  • 4.25×更快的 AI 推理内核

什么是代码执行模型?

一部配有旁白和字幕的动画短片,介绍 Maxwell:大多数代码从未接触过它实际运行的硬件,也从未接触过它处理的数据。Maxwell 会在程序运行时对其进行观察,重写底层的二进制代码以适配那台确切的机器和数据,并形式化证明每一项改进都与原版等价。它可在 CPU 和 GPU 上运行,加速数据流水线和 AI 推理内核。

精选客户

LTX-2.5 将 4K 视频生成时间缩短一半

LTX 从第一天起就以高效为目标打造 LTX-2.5:端到端编译、跨 GPU 的 序列并行、基于手写注意力内核的解码。这是一条由顶尖人类专家构建并优化的流水线。Maxwell 让他们的 4K 生成速度几乎翻倍。

(打开 ltx.io)

  • 1.87×更快的 4K 视频生成
  • 134秒在两块 B200 上生成每段 4K 视频,从 250 秒降至 134 秒

阅读故事 

Maxwell 演示

观看 Maxwell 如何优化基于 GPU 和基于 CPU 的代码。一旦 Maxwell 获得足够的运行时数据,它就会在程序持续运行的同时,换上针对那台确切机器量身定制、并经过形式化证明的优化。

基于 GPU 的 Whisper 语音转文字

两个终端在同一块 RTX 4090 上运行同一个 Python 脚本:从冷启动开始,用 Whisper-small 完成 180 次转写。左侧没有 Maxwell,耗时 106.23 秒。右侧有 Maxwell,49.82 秒完成。两者生成的转写结果完全相同。录像以 4 倍速播放。

基于 CPU 的图算法

两个终端在同一台机器上运行同一个 Python 脚本:NetworkX 介数中心性,运行 15 次。左侧没有 Maxwell,耗时 61.44 秒。右侧有 Maxwell,17.50 秒完成。两者打印的结果完全相同。录像以 4 倍速播放。

Maxwell 背后的研究

  1. Maxwell 在 Blackwell 上逼近光速

    经过一天的搜索,Maxwell 在 SOL-ExecBench 的 Blackwell 内核上击败了 NVIDIA 的 PyTorch 基线,覆盖率达 90%。

    (在 doubleai.com 上打开)
  2. doubleAI 的 Maxwell:大规模超越专家手写内核

    独立生成并验证了 NVIDIA cuGraph 的超优化即插即用版本,平均快 3.6 倍。

    (在 doubleai.com 上打开)
  3. 无需改动一行代码,pandas 快如闪电

    Maxwell 从零开始彻底重写了 pandas 的内核,并针对现代硬件进行了专门优化。

    (在 doubleai.com 上打开)

来源:Hacker News · heymaxwell.ai