arXiv cs.AI· Mianwei Zhou, Duo Zhang, Henry Tsai, Yuqi Zheng, Jian Li, Juexin Lin, Sujay Khandagale, Vijay Rajaram, Dong Jiao, Tao Cheng·· 10 小时前AI 评分24
SeqFold：面向用户行为序列骨干网络的时间戳可寻址压缩状态
SeqFold: Timestamp-Addressable Compressed States for User Action Sequence Backbones
AI 导读
SeqFold 是一种压缩状态接口，可将冻结的长历史序列骨干网络的多层用户状态导出为紧凑、时间戳可寻址的离散编码，结合多通道融合、通道级时间衰减与 Lookup-Free Quantization（LFQ）。在大规模专有数据集上，SeqFold 将单状态表示存储降低 3,400 倍，同时保留未压缩模型的大部分下游排序性能。配套的融合流式实现仅在目标时间戳物化状态，使大规模导出更实用。
正文 · AI 翻译
摘要：现有的序列用户建模方法主要关注改进骨干编码器，或为单一预测目标学习任务特定的用户表示。我们转而研究如何将冻结的长历史骨干网络的多层用户状态导出为紧凑、可按时间戳寻址的表示，用于下游训练回填与服务。在此设定下，给定时间戳的用户状态汇总了该时间之前用户的行为，因此下游系统只需与各目标时间戳对齐的状态，而无需完整的隐藏状态时间线。为此，我们提出 \texttt{SeqFold}，一种压缩状态接口，它结合了学习到的多通道融合、通道特定的时间衰减以及无查找量化（LFQ），从冻结的骨干状态中生成紧凑的离散编码。随后，任务特定的解码器将这些共享编码映射到灵活嵌入空间，供下游模型使用。为使按时间戳寻址的导出在大规模场景下切实可行，我们进一步开发了一种融合流式实现，在每次动作后更新融合递推，而仅在目标时间戳处物化状态。在大规模专有数据集上，SeqFold 将每个状态的表示存储减少了 $3{,}400\times$，同时保留了未压缩模型的大部分下游排序性能，表明 SeqFold 是一种在下游模型中复用长历史序列骨干网络的有效接口。
| 主题： | 人工智能（cs.AI）；社会与信息网络（cs.SI） |
| 引用为： | arXiv:2611.13704 [cs.AI] |
| （或本版本使用 arXiv:2611.13704v1 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2611.13704 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Mianwei Zhou [查看邮箱]
[v1]
2026年11月10日 星期二 07:55:16 UTC（253 KB）
来源：arXiv cs.AI · arxiv.org