跳到正文
热点事件持续更新

CoS-VQ:共享尺度向量量化方法

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

Zukang Xu 等作者提出低比特权重量化方法 CoS-VQ(协同共享尺度向量量化),在保留低维码字的同时联合优化硬索引与跨位置共享尺度,避免增加有效编码维度。作者称,在 Qwen3.8-27B 上,该方法在语言建模、编程和推理基准上优于 QTIP 和 LLVQ;消融实验显示,联合更新的收益大于仅优化尺度。代码已开源。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. arXiv cs.AI
    CoS-VQ:面向大语言模型的协同共享尺度向量量化

    CoS-VQ 提出一种协同共享尺度向量量化方法,在保留低维码字的同时联合优化硬索引与跨位置共享尺度,避免增加有效编码维度。在 Qwen3.8-27B 上,该方法在语言建模、编程和推理基准上优于 QTIP 和 LLVQ。消融实验显示,联合更新的收益大于仅优化尺度,代码已开源。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。