UniCompress将多LoRA专家压成单一INT2模型
热点事件持续更新
UniCompress将多LoRA专家压成单一INT2模型
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Mingkang Liu等作者提出 UniCompress 框架,把多个 LoRA 专家模型的多任务能力压缩进一个无适配器的紧凑视觉语言模型。作者称,该框架以合并后的 BF16 Qwen3-VL-4B 为教师模型,通过 GPTQ 初始化和教师引导的量化恢复,构建非对称 INT2 学生模型,并对视觉编码器和语言主干联合量化,目标是在边缘设备上部署。目前公开的是方法描述与作者自述的评估,尚未给出与其他压缩方案的可比结果。
AI 根据报道生成 · 2 小时前更新
最新进展11月5日 13:00
UniCompress:将多 LoRA 专家压缩为单一紧凑模型,面向边缘智能报道时间线
沿着报道,了解事件的不同侧面。
11月5日
- arXiv cs.AIUniCompress:将多 LoRA 专家压缩为单一紧凑模型,面向边缘智能
UniCompress 提出一种面向部署的框架,可将多任务专家能力压缩进一个无适配器的紧凑模型:以合并后的 BF16 Qwen3-VL-4B 为教师,通过 GPTQ 初始化和教师引导的量化恢复构建非对称 INT2 学生模型,对视觉编码器和语言主干联合量化。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。