跳到正文
热点事件持续更新

免训练多模态推测解码方法RECAP提出

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Hengjie Zhu等作者提出免训练多模态推测解码方法RECAP,用一、二、三token键存储目标模型预测:请求内上下文记忆只存活于当前请求、隐式绑定当前图像,token级记忆跨请求保留覆盖,无需训练或辅助草稿模型。 在Qwen2.5-VL-7B和LLaVA-1.6-7B的七个单轮基准上,RECAP平均加速分别为1.66×和1.56×,作者称超过最强免训练基线Token Recycling的1.51×和1.37×。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. arXiv cs.AI
    RECAP:面向多模态投机解码的请求内与持久记忆上下文感知预测回收

    RECAP 用一、二、三 token 键存储目标模型预测,请求内上下文记忆隐式绑定当前图像,token 级记忆跨请求保留覆盖,无需训练或辅助草稿模型。在 Qwen2.5-VL-7B 和 LLaVA-1.6-7B 的七个单轮基准上,平均加速分别为 1.66× 和 1.56×,超过最强免训练基线 Token Recycling 的 1.51× 和 1.37×。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。