arXiv cs.CL· Himank Handa, Negar Arabzadeh, Matei Zaharia·· 11 小时前AI 评分31
FLINT：固定预算的后期交互检索架构
FLINT: Fixed-budget Late Interaction
AI 导读
FLINT 是一种采用注意力池化、将每条查询和文档表示为固定数量嵌入向量的多向量检索架构，且对查询与文档两侧对称池化。在 BEIR 上与最接近的基线排名效果相当，并在 BrowseComp+、CRUMB 和 TREC Tip-of-the-Tongue 2025 等长查询基准上更优。
正文 · AI 翻译
摘要：多向量检索模型（如 ColBERT）通过在 token 级别匹配查询和文档，通常优于规模相当的单向量模型。然而，为每个 token 保留一个向量会大幅增加存储需求，并使检索速度相比单向量双编码器变慢，从而限制了其可扩展性。我们提出 FLINT（Fixed-budget Late INTeraction，固定预算后期交互），这是一种使用基于注意力的池化，以固定数量的嵌入向量表示每个查询和文档的架构。与仅对文档表示进行池化而保留 token 级查询的架构不同，FLINT 对两侧对称应用池化，从而限制文档存储量以及检索期间所需的向量比较次数。FLINT 在 BEIR 上取得了与最接近的基线相当的排序效果，并在若干具有更长、更复杂查询的基准上优于这些基线，包括 BrowseComp+、CRUMB 和 TREC Tip-of-the-Tongue 2025。我们通过在两个独立骨干网络（BERT 和 ModernBERT）上进行测试，证明 FLINT 的有效性-效率优势可跨编码器架构延伸。在长查询语料上，FLINT 的端到端检索速度比最接近的基线 ConstBERT 快 1.5-2.8 倍。与 ColBERTv2 等 token 级后期交互模型相比，FLINT 还将索引大小减少了 5.3-9.3 倍。
| 学科： | 信息检索（cs.IR）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.27273 [cs.IR] |
| （或 arXiv:2610.27273v1 [cs.IR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.27273 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Negar Arabzadeh [查看电子邮件]
[v1]
2026年10月19日星期一 20:46:01 UTC（252 KB）
来源：arXiv cs.CL · arxiv.org