CompressionBench:编码智能体自主压缩LLM的评测
热点事件持续更新
CompressionBench:编码智能体自主压缩LLM的评测
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Xinrui Zhong等作者提出CompressionBench,把LLM压缩设为终端任务:编码智能体在给定源checkpoint、存储上限、推理环境和时间预算下,自主构建压缩权重与可执行推理代码。 六个智能体、六种模型规模共36份提交中29份通过验证。按任务选取最低困惑度的智能体方案后,平均困惑度较BF16上升3.4%,下游准确率77.33%,BF16为79.56%。
AI 根据报道生成 · 51 分钟前更新
最新进展11月5日 13:00
CompressionBench:编码智能体能否自主压缩 LLM?报道时间线
沿着报道,了解事件的不同侧面。
11月5日
- arXiv cs.AICompressionBench:编码智能体能否自主压缩 LLM?
研究将 LLM 压缩设为终端任务,让编码智能体在给定源 checkpoint、存储上限、推理环境和时间预算下自主构建压缩权重与可执行推理代码。六个智能体、六种模型规模共 36 份提交中 29 份通过验证,按任务选取最低困惑度的智能体方案后,平均困惑度较 BF16 上升 3.4%,下游准确率 77.33%,而 BF16 为 79.56%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。