arXiv cs.AI· Jiahui Ning, Liang Chen, Yuchen Liang, Yi Zhang, Fenglei Fan·· 11 小时前AI 评分39
ACE-Compression：面向压缩大语言模型的能力中心评测框架
ACE-Compression: An Ability-Centric Evaluation of Compressed Large Language Models
AI 导读
研究者提出 ACE-Compression，一个以能力为中心的压缩大语言模型评测框架，从程序性推理与约束执行、知识 grounding 与真实性、社会认知与情感理解、人格保真与风格一致性四个维度考察压缩后模型保留哪些核心能力。
正文 · AI 翻译
摘要：模型压缩使大型语言模型得以部署，但如今的评估只讲述了不完整的故事。标准做法是衡量保留的任务性能，然后就此止步。这忽略了一个关键事实：压缩会扰动嵌入在数十亿权重中的分布式知识，而仅凭任务分数无法揭示哪些底层能力得以幸存、哪些悄然崩塌。为解决这一问题，我们提出 ACE-Compression，一个以能力为中心的评估框架。我们不再只问“压缩后的模型还能答对吗？”，而是问“它的哪些核心能力仍然完好？”我们的框架探查四个面向部署的维度：程序性推理与约束执行、知识 grounding 与真实性、社会认知与情感理解，以及人格保真度与风格一致性。在来自六个开放权重 LLM 的 35 个以上压缩检查点（涵盖量化与剪枝）上，我们发现压缩会重新分配能力画像。粗粒度、局部和表层信号往往得以保留，而细粒度、长尾和依赖上下文的能力则变得脆弱。量化在保留率上始终优于剪枝，但这种差距的实际意义完全取决于应用需要哪种能力。基于我们的发现，部署者可以根据其应用所需的能力画像来选择压缩方法，而不仅仅依据排行榜平均值。算法设计者则获得诊断信号，以构建能保留关键能力的压缩方法。我们相信，ACE-Compression 将压缩从黑箱式的精度下降转变为一种可解释的干预——一种我们可以测量、理解并最终改进的干预。
| 评论： | 33 页，7 幅图，包括参考文献和附录。代码：此 https URL |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.27913 [cs.AI] |
| （或 arXiv:2610.27913v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.27913 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Jiahui Ning [查看邮箱]
[v1]
2026 年 10 月 20 日星期二 09:26:20 UTC（3,546 KB）
来源：arXiv cs.AI · arxiv.org