arXiv cs.CL· Xinping Zhao, Jiaxin Xu, Ziqi Dai, Xin Zhang, Huiyao Chen, Shouzheng Huang, Xianhao Xiong, Danyu Tang, Xinshuo Hu, Guohong Fu, Meishan Zhang, Baotian Hu·· 6 天前AI 评分24
Lychee-Reranker：面向压缩文档重排序的快速非后期交互模型
Lychee-Reranker: Fast but Not Late Interaction for Compressed Document Reranking
AI 导读
研究者提出 Lychee-Reranker，一种解耦查询与文档计算的 FBNL 重排序模型，通过离线编码文档与 cross-attention 建模相关性，提供 Nano、Small、Large 三个版本，激活参数分别为 0.27B、1B、4B。
正文 · AI 翻译
作者：Xinping Zhao、Jiaxin Xu、Ziqi Dai、Xin Zhang、Huiyao Chen、Shouzheng Huang、Xianhao Xiong、Danyu Tang、Xinshuo Hu、Guohong Fu、Meishan Zhang、Baotian Hu
摘要：随着检索系统规模不断扩大，高效且有效的重排序变得愈发重要。然而，现有大多数基于编码器和解码器的重排序器会联合处理每个查询—段落对，将其在线计算紧密耦合，限制了部署效率和灵活性。我们提出 Lychee-Reranker，一种快速但非后交互（FBNL）的重排序器，它解耦了查询与段落的计算，同时保留了富有表现力的相关性建模。Lychee-Reranker 基于编码器—解码器架构构建，使用 Matryoshka 嵌入池化对段落进行预编码，而其解码器将系统指令和用户指令与查询意图一起建模；随后交叉注意力捕获所得查询上下文与段落表示之间的细粒度相关性。这些设计共同带来四个关键优势：（i）通过离线段落编码实现高效性，（ii）通过交叉注意力实现表现力，（iii）通过 Matryoshka 嵌入池化实现紧凑性，（iv）通过可调节的计算预算实现测试时计算。我们将 Lychee-Reranker 实例化为三种规模：Nano、Small 和 Large，分别具有 0.27B、1B 和 4B 激活参数。在 BEIR、MIRACL 和 LMEB 上的大量实验表明，其重排序性能强劲且效率卓越。在 BEIR 和 MIRACL 上，我们的模型在多领域和多语言重排序中取得了有竞争力的性能，与 Qwen3/BGE-Reranker 系列等强大的工业级重排序器相当。在 LMEB-Dialogue 上，一个紧凑的嵌入模型搭配我们的 Nano 重排序器（仅有 0.27B 激活参数），仍可与 7—12B 嵌入模型相竞争。Lychee-Reranker 此前称为 KaLM-Reranker-V1。数据和模型可在 此 https URL 获取。
| Comments： | 技术报告，31 页； |
| Subjects： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2606.22807 [cs.CL] |
| （或 arXiv:2606.22807v4 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2606.22807 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Xinping Zhao [查看电子邮件]
[v1]
2026 年 6 月 22 日星期一 03:36:31 UTC（2,597 KB）
[v2]
2026 年 7 月 7 日星期二 08:14:04 UTC（2,601 KB）
[v3]
2026 年 9 月 22 日星期二 06:59:06 UTC（5,765 KB）
[v4]
2026 年 10 月 9 日星期五 06:46:50 UTC（5,405 KB）
来源：arXiv cs.CL · arxiv.org