GSQ：Gumbel-Softmax 低比特标量量化方法
热点事件持续更新
GSQ：Gumbel-Softmax 低比特标量量化方法
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Alireza Dadgarnia 等作者提出并公开了 GSQ（Gumbel-Softmax Quantization），一种训练后标量量化方法：用 Gumbel-Softmax 对离散网格做松弛，联合学习逐坐标的网格分配与逐组缩放。 作者称，在 Llama-3.1-8B/70B-Instruct 上，GSQ 以 2 比特和 3 比特缩小了标量量化与 QTIP 前沿的差距，并保持与现有标量推理内核兼容。源代码已公开。
AI 根据报道生成 · 47 分钟前更新
最新进展11月11日 13:00
GSQ：基于 Gumbel-Softmax 采样的 LLM 高精度低比特标量量化报道时间线
沿着报道，了解事件的不同侧面。
11月11日
- arXiv cs.CLGSQ：基于 Gumbel-Softmax 采样的 LLM 高精度低比特标量量化
GSQ 是一种训练后标量量化方法，通过 Gumbel-Softmax 松弛联合学习逐坐标网格分配与逐组缩放，在 Llama-3.1-8B/70B-Instruct 上以 2 比特和 3 比特缩小了标量量化与 QTIP 前沿的差距，并保持与现有标量推理内核兼容。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。