arXiv cs.CL· Haolin Li, Haipeng Zhang, Mang Li, Zhaohui Xia, Xun Zhu, Miao Li, Yu Zhang, Ji Wu·· 12 小时前AI 评分31
CRIM:面向高效个性化检索的可组合可复用条目记忆框架
CRIM: Composable and Reusable Item Memory for Efficient Personalized Retrieval
AI 导读
CRIM 将条目级语义编码与请求级历史建模分离,用少量可学习 summary token 把每个条目压缩为紧凑连续记忆,并借助 REC token 在交互历史中引入预测监督。
正文 · AI 翻译
摘要:在个性化搜索与推荐中,大语言模型会产生高昂的训练与推理成本,因为不断增长的交互历史会加长请求输入,并反复将相同的物品文本暴露给模型。我们提出可组合且可复用的物品记忆(Composable and Reusable Item Memory,CRIM)框架,将物品级语义编码与请求级历史建模分离。一小组可学习的摘要 token 将每个物品压缩为紧凑的连续记忆,而片段级读出 token(REC token)在交互历史中引入预测监督。这些记忆独立于用户和查询,因此可以跨请求复用。在推理时,CRIM 按交互顺序组合缓存记忆,并可选地结合查询,生成个性化检索表示,从而减少重复的物品文本编码,同时保留依赖请求的上下文建模。我们进一步引入一种联合训练机制,将缓存记忆与采样的实时重编码相结合。每个请求仅重编码少量历史物品,使检索目标能够在有限计算成本下联合优化物品编码器和请求编码器,同时定期刷新缓存以保持一致性。在 MovieLens-1M、Qilin 以及我们新的 LazSeq 数据集上进行的大量评估和成本分析表明,在相同骨干规模下,CRIM 实现了最先进的检索性能,同时显著降低推理成本,并在联合训练期间限制物品重编码。我们将公开发布代码和数据集。
| 主题: | 信息检索(cs.IR);计算与语言(cs.CL) |
| 引用为: | arXiv:2610.35323 [cs.IR] |
| (或本版本的 arXiv:2610.35323v1 [cs.IR]) | |
| https://doi.org/10.48550/arXiv.2610.35323 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Haolin Li [查看电子邮件]
[v1]
2026年10月26日星期一 12:21:45 UTC(1,097 KB)
来源:arXiv cs.CL · arxiv.org