跳到正文
热点事件持续更新

CompressionBench:编码智能体自主压缩LLM的评测

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Xinrui Zhong等作者提出CompressionBench,把LLM压缩设为终端任务:编码智能体在给定源checkpoint、存储上限、推理环境和时间预算下,自主构建压缩权重与可执行推理代码。 六个智能体、六种模型规模共36份提交中29份通过验证。按任务选取最低困惑度的智能体方案后,平均困惑度较BF16上升3.4%,下游准确率77.33%,BF16为79.56%。

AI 根据报道生成 · 51 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. arXiv cs.AI
    CompressionBench:编码智能体能否自主压缩 LLM?

    研究将 LLM 压缩设为终端任务,让编码智能体在给定源 checkpoint、存储上限、推理环境和时间预算下自主构建压缩权重与可执行推理代码。六个智能体、六种模型规模共 36 份提交中 29 份通过验证,按任务选取最低困惑度的智能体方案后,平均困惑度较 BF16 上升 3.4%,下游准确率 77.33%,而 BF16 为 79.56%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。