E8-QAT提出2比特量化感知训练框架
热点事件持续更新
E8-QAT提出2比特量化感知训练框架
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Xinyu Lei等作者提出E8-QAT,一个以E₈格作为隐式八维码本的2比特量化感知训练框架。其训练前向过程通过算术投影联合量化权重组,无需存储或搜索显式码本。 在Qwen3.6-35B-A3B上,该框架四项任务平均分与全精度模型持平,IFEval和LiveCodeBench分别比SOTA基线高2.03%和1.51%。
AI 根据报道生成 · 1 小时前更新
最新进展10月21日 12:00
E8-QAT:基于隐式格码本的 2-bit 量化感知训练报道时间线
沿着报道,了解事件的不同侧面。
10月21日
- arXiv cs.AIE8-QAT:基于隐式格码本的 2-bit 量化感知训练
E8-QAT 提出以 E₈ 格作为隐式八维码本的 2-bit 量化感知训练框架,训练前向过程通过算术投影联合量化权重组,无需存储或搜索显式码本。在 Qwen3.6-35B-A3B 上,其四项任务平均分与全精度模型持平,IFEval 和 LiveCodeBench 分别比 SOTA 基线高 2.03% 和 1.51%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。