arXiv·· 12 天前AI 评分22
VALSE：面向大语言模型高效推理的垂直自适应层跳过框架
VALSE: Vertical Adaptive Layer Skipping for Efficient Inference in Large Language Models
AI 导读
该论文为垂直自适应层跳过（VALSE）建立理论框架，证明三项基础结果：给出任意逐样本跳过调度的期望 FLOPs 闭式表达式（定理 2）；证明跳层模型严格包含于全层函数空间之内、但能有效近似（定理 10、11），并给出显式分离示例；以及 VALSE 的结构对偶性。
来源：arXiv · arxiv.org