NVIDIA 用 CUDA Tile 实现 Mamba-2 前向内核
热点事件持续更新
NVIDIA 用 CUDA Tile 实现 Mamba-2 前向内核
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
NVIDIA 发布技术博客,介绍在 CUDA Tile(cuTile)中实现 Mamba-2 的高性能前向传播内核。cuTile 是基于 Python 的 DSL 与 GPU 并行编程模型,把线程级和 warp 级调度抽象为以 tile 为中心的高层原语,由编译器自动完成优化;据 NVIDIA 介绍,开发者因此可用 Python 编写 GPU 内核并调用先进硬件能力。 此次公开的是前向传播内核的实现方法,报道未给出性能数据或与其他实现的对比结果。
AI 根据报道生成 · 2 小时前更新
最新进展10月20日 01:00
NVIDIA 用 CUDA Tile 高性能前向内核加速 Mamba-2报道时间线
沿着报道,了解事件的不同侧面。
10月20日
- NVIDIA Technical BlogNVIDIA 用 CUDA Tile 高性能前向内核加速 Mamba-2
NVIDIA 在 CUDA Tile(cuTile)中实现了 Mamba-2 的高性能前向传播内核。cuTile 是基于 Python 的 DSL 与 GPU 并行编程模型,将线程级和 warp 级调度抽象为以 tile 为中心的高层原语,由编译器自动完成优化。开发者因此可用 Python 编写 GPU 内核并调用先进硬件能力。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。