SharQ:免训练结合激活稀疏与FP4量化
热点事件持续更新
SharQ:免训练结合激活稀疏与FP4量化
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Haoqian Meng等作者提出免训练推理方法 SharQ,通过在线稀疏—稠密分解把激活稀疏性与 FP4 量化结合,无需校准数据、重训练或针对模型调优。 作者称,在 Llama-3.1-8B、Qwen2.5-7B、Qwen3-30B-A3B 和 Qwen3-VL-8B 上,SharQ 挽回了 NVFP4 与 FP16 之间 43–63% 的精度差距,并兼容 NVFP4、HiF4、MXFP4 格式。上述精度挽回幅度为作者报告的结果。
AI 根据报道生成 · 53 分钟前更新
最新进展11月20日 13:00
SharQ:打通激活稀疏与 FP4 量化,加速 LLM 推理报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- arXiv cs.AISharQ:打通激活稀疏与 FP4 量化,加速 LLM 推理
SharQ 是一种免训练的 LLM 推理方法,通过在线稀疏—稠密分解把激活稀疏性与 FP4 量化结合,无需校准数据、重训练或模型特定调优。在 Llama-3.1-8B、Qwen2.5-7B、Qwen3-30B-A3B 和 Qwen3-VL-8B 上,它挽回了 NVFP4 与 FP16 之间 43–63% 的精度差距,并兼容 NVFP4、HiF4、MXFP4 格式。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。