跳到正文
热点事件持续更新

长短解对比剪枝提升推理模型思维链压缩

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

研究者提出 Contrastive Set-Difference(CSD)剪枝方法:对比同一问题长、短正确解上的神经元激活,识别并优先剪除冗余推理神经元,同时把偏好数据扩展到剪枝模型恒对或恒错的问题。 对 DeepSeek-R1-Distill-Qwen-7B 剪枝 20% 后,该方法在四个数学基准上比 RAC 剪枝加同等压缩少用 8–22% 思考 token,准确率差距在 0.5 分以内。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.CL
    长短期对比剪枝提升剪枝推理模型的思维链可压缩性

    研究者提出 Contrastive Set-Difference(CSD)方法,通过对比同一问题长、短正确解上的神经元激活,识别并优先剪除冗余推理神经元,同时把偏好数据扩展到剪枝模型恒对或恒错的问题。对 DeepSeek-R1-Distill-Qwen-7B 剪枝 20% 后,该方法在四个数学基准上比 RAC 剪枝加同等压缩少用 8–22% 思考 token,准确率差距在 0.5 分以内。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。