跳到正文
热点事件持续更新

NVIDIA 用 CUDA Tile 实现 Mamba-2 前向内核

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

NVIDIA 发布技术博客,介绍在 CUDA Tile(cuTile)中实现 Mamba-2 的高性能前向传播内核。cuTile 是基于 Python 的 DSL 与 GPU 并行编程模型,把线程级和 warp 级调度抽象为以 tile 为中心的高层原语,由编译器自动完成优化;据 NVIDIA 介绍,开发者因此可用 Python 编写 GPU 内核并调用先进硬件能力。 此次公开的是前向传播内核的实现方法,报道未给出性能数据或与其他实现的对比结果。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. NVIDIA Technical Blog
    NVIDIA 用 CUDA Tile 高性能前向内核加速 Mamba-2

    NVIDIA 在 CUDA Tile(cuTile)中实现了 Mamba-2 的高性能前向传播内核。cuTile 是基于 Python 的 DSL 与 GPU 并行编程模型,将线程级和 warp 级调度抽象为以 tile 为中心的高层原语,由编译器自动完成优化。开发者因此可用 Python 编写 GPU 内核并调用先进硬件能力。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。