跳到正文
热点事件持续更新

SkimPrefill用小模型预读加速长图文预填充

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Xiaolin Lin、Kai-Chiang Wu、Bing Li、Grace Li Zhang 提出 SkimPrefill,用于加速长交错图文输入的预填充。其做法是让小型混合模型 Qwen3.5-0.8B 先以半分辨率图像读完整个输入,仅用早期层的一个注意力头对图像或段落单元排序,再把排名靠前的单元作为更短的提示词交给目标模型。 该方法的依据是:小模型读到早期层时已能判断哪些单元重要。报道未给出加速幅度或目标模型上的效果数据。

AI 根据报道生成 · 58 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.AI
    SkimPrefill:让小模型先读,加速长交错图文输入的预填充

    SkimPrefill 让小型混合模型 Qwen3.5-0.8B 先以半分辨率图像读完整个输入,仅用早期层的一个注意力头对图像或段落单元排序,再把排名靠前的单元作为更短的提示词交给目标模型。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。