跳到正文
热点事件持续更新

CoreQ:免训练LLM量化新方法

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Seohyeon Cha 等作者提出免训练的训练后量化(PTQ)框架 CoreQ,通过对失配做几何分解,计算闭式、逐层自适应的校正系数,控制观测失配进入各层校准目标的比例,以避免过拟合有限的校准数据,且无需调参。其有界束搜索扩展 K-CoreQ 以少量额外算力换取更好性能。 作者称,在多个 LLM 系列、规模、位宽和量化设置下,CoreQ 与 K-CoreQ 的困惑度和下游准确率均优于强 PTQ 基线;代码已在 GitHub 开源。

AI 根据报道生成 · 54 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.AI
    CoreQ:面向 LLM 量化的失配校正逐次舍入方法

    CoreQ 是一个无需训练的 PTQ 框架,通过对失配做几何分解,计算闭式、逐层自适应的校正系数,控制观测失配进入各层校准目标的比例,避免过拟合有限校准数据且无需调参。其有界束搜索扩展 K-CoreQ 以少量额外算力换取更好性能。在多个 LLM 系列、规模、位宽和量化设置下,CoreQ 与 K-CoreQ 的困惑度和下游准确率均优于强 PTQ 基线,代码已在 GitHub 开源。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。