跳到正文
热点事件持续更新

单卡2080 Ti解锁Tensor Core后预训练吞吐实测

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Dezhou Shen 发表实测研究,用 turing-unlock 内核模块在 nvidia 驱动绑定前写入 FP16 速度选择器并释放 ACR mutex,使单张 22G RTX 2080 Ti 的 cuBLAS FP16 matmul 吞吐从 55.7 提升至 91.4 TFLOPS,约 1.6 倍。 在从零预训练实测中,75.7M 参数、512 宽、8+8 层并开启激活检查点的小规模配置,稳态吞吐从 6,480 提升至 7,246 tok/s(+11.8%),总耗时从 1.77 小时降至 1.61 小时,节省 9.0%。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. arXiv cs.CL
    解锁 Turing Tensor Cores:单张 22G RTX 2080 Ti 上从零预训练的实测吞吐报告

    研究用 turing-unlock 内核模块在 nvidia 驱动绑定前写入 FP16 速度选择器并释放 ACR mutex,使 cuBLAS FP16 matmul 吞吐从 55.7 提升至 91.4 TFLOPS(约 1.6 倍)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。