单卡2080 Ti解锁Tensor Core后预训练吞吐实测
热点事件持续更新
单卡2080 Ti解锁Tensor Core后预训练吞吐实测
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Dezhou Shen 发表实测研究,用 turing-unlock 内核模块在 nvidia 驱动绑定前写入 FP16 速度选择器并释放 ACR mutex,使单张 22G RTX 2080 Ti 的 cuBLAS FP16 matmul 吞吐从 55.7 提升至 91.4 TFLOPS,约 1.6 倍。 在从零预训练实测中,75.7M 参数、512 宽、8+8 层并开启激活检查点的小规模配置,稳态吞吐从 6,480 提升至 7,246 tok/s(+11.8%),总耗时从 1.77 小时降至 1.61 小时,节省 9.0%。
AI 根据报道生成 · 2 小时前更新
最新进展11月5日 13:00
解锁 Turing Tensor Cores:单张 22G RTX 2080 Ti 上从零预训练的实测吞吐报告报道时间线
沿着报道,了解事件的不同侧面。
11月5日
- arXiv cs.CL解锁 Turing Tensor Cores:单张 22G RTX 2080 Ti 上从零预训练的实测吞吐报告
研究用 turing-unlock 内核模块在 nvidia 驱动绑定前写入 FP16 速度选择器并释放 ACR mutex,使 cuBLAS FP16 matmul 吞吐从 55.7 提升至 91.4 TFLOPS(约 1.6 倍)。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。