跳到正文
热点事件持续更新

ShiftRAG:解耦检索与生成的RAG框架

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Youmin Ko 等作者提出 ShiftRAG,一个解耦式 RAG 框架:它使用单一 LLM 主干,但把判别式检索学习与自回归生成分开,并通过将检索对齐结果投影为连续软 token,构建高带宽接口,向生成器注入检索侧信号。 该框架同时用软正交目标缓解 rank collapse,并以逐层相关性动态保留细粒度隐空间。作者称,实验显示它在检索与问答任务上显著优于 SOTA 基线,并保持主干基础能力与效率-性能权衡。

AI 根据报道生成 · 51 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. arXiv cs.CL
    ShiftRAG:用解耦学习与连续软 token 绕过文本瓶颈

    ShiftRAG 是一个解耦式 RAG 框架,用单一 LLM 主干但将判别式检索学习与自回归生成分离,并通过把检索对齐结果投影为连续软 token 构建高带宽接口,向生成器注入检索侧信号。该框架同时用软正交目标缓解 rank collapse,并以逐层相关性动态保留细粒度隐空间。实验显示其在检索与问答任务上显著优于 SOTA 基线,并保持主干基础能力与效率-性能权衡。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。