RadarAI· X：UCSD Hao AI Lab (@haoailab)·· 4 小时前AI 评分33
NVFP4 QAD 量化让视频模型 4-bit 提速且不掉质量
NVFP4量化让视频模型提速且不掉质量
AI 导读
Hao AI Lab 提出 NVFP4 QAD 量化方法，以 BF16 Flex 为蒸馏目标，与它的差距比普通量化缩小 14-17%，实现 4-bit 量化下质量不打折。针对长片段受限于注意力计算的问题，FP4 注意力将 768p 15 秒视频的耗时从 101.8 秒降至 85.3 秒。
正文 · AI 翻译
Hao AI Lab· @haoailab · X·2026-11-04 03:42· 52 分钟前AI 评分42
AI 导读
(3/6) 4-bit 量化，质量不打折。 NVFP4 QAD 以 BF16 Flex 为蒸馏目标，与它的差距比普通量化缩小 14-17%。 长片段受限于注意力计算，因此 FP4 注意力将 768p 15 秒的耗时从 101.8 秒降至 85.3 秒。
正文 · 原文
(3/6) 4-bit 量化，质量不打折。
NVFP4 QAD 以 BF16 Flex 为蒸馏目标，与它的差距比普通量化缩小 14-17%。
长片段受限于注意力计算，因此 FP4 注意力将 768p 15 秒的耗时从 101.8 秒降至 85.3 秒。
来源：Hao AI Lab · x.com
来源：RadarAI · aihot.news