跳到正文
热点事件持续更新

SharQ:免训练结合激活稀疏与FP4量化

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Haoqian Meng等作者提出免训练推理方法 SharQ,通过在线稀疏—稠密分解把激活稀疏性与 FP4 量化结合,无需校准数据、重训练或针对模型调优。 作者称,在 Llama-3.1-8B、Qwen2.5-7B、Qwen3-30B-A3B 和 Qwen3-VL-8B 上,SharQ 挽回了 NVFP4 与 FP16 之间 43–63% 的精度差距,并兼容 NVFP4、HiF4、MXFP4 格式。上述精度挽回幅度为作者报告的结果。

AI 根据报道生成 · 53 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.AI
    SharQ:打通激活稀疏与 FP4 量化,加速 LLM 推理

    SharQ 是一种免训练的 LLM 推理方法,通过在线稀疏—稠密分解把激活稀疏性与 FP4 量化结合,无需校准数据、重训练或模型特定调优。在 Llama-3.1-8B、Qwen2.5-7B、Qwen3-30B-A3B 和 Qwen3-VL-8B 上,它挽回了 NVFP4 与 FP16 之间 43–63% 的精度差距,并兼容 NVFP4、HiF4、MXFP4 格式。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。