LISA:线性索引稀疏注意力加速长上下文推理
热点事件持续更新
LISA:线性索引稀疏注意力加速长上下文推理
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
Yu Zhao 等作者提出 LISA(线性索引稀疏注意力),一种无需完整预训练的即插即用自注意力替代方案。它由线性注意力分支与 Lightning Indexer 动态选取相关 token 的稀疏注意力分支组成,两分支通过可学习的门控融合。作者称其用于长上下文推理加速,但报道未给出实测速度或质量数据。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 12:00
LISA:面向高效长上下文推理的线性索引稀疏注意力报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- arXiv cs.AILISA:面向高效长上下文推理的线性索引稀疏注意力
LISA 是一种即插即用的自注意力替代方案,无需完整预训练,通过线性注意力分支与 Lightning Indexer 动态选取相关 token 的稀疏注意力分支经学习门控融合。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。