arXiv cs.CL· Zhenwei Tang, Jintao Liu, Di Bai, Xidong Wu, Xinwu Cheng·· 11 小时前AI 评分32
ReRankID：仅用 Semantic ID 作为物品表示的推理重排序
Reasoning Reranking with Semantic IDs as the Sole Item Representation
AI 导读
研究构建 ReRankID 测试台，让模型仅凭 Semantic ID（SID）对候选列表进行推理与重排序，发现模型常直接复制输入顺序而非真正重排，可读元数据也无法修复该问题。
正文 · AI 翻译
摘要：推理式重排器在对候选列表排序之前会先写出推理依据，而现有系统为此会读取条目元数据，尽管生成式推荐系统越来越多地将条目表示为紧凑的语义 ID（SID）。仅凭 SID 进行排序有两点吸引力：SID 提示远短于匹配的条目文本；并且，尽管条目编码由内容固定，主干网络会部分地从用户-条目交互序列中学习其 token 嵌入，因此这些 token 可以携带条目文本所缺乏的行为信号。该训练的目标是下一项生成，而它是否支持仅凭 SID 对给定列表进行排序尚未经过测试。我们构建了 ReRankID，一个受控测试平台，其中模型仅根据以 SID 表示的历史和列表进行推理和排序，并逐一改变条目呈现方式、历史长度和列表大小。在该测试平台上，此类模型常常复制输入顺序而不是进行重排，而可读的元数据并不能修复这一失败。我们比较了监督微调、拒绝采样自训练、同策略蒸馏和基于验证器的强化学习作为后训练方法，发现它们能引出缺失的行为。最强的后训练模型——使用分级排序奖励训练的 8B 模型——给出了最佳的仅 SID 排序，并匹配了提示长度约为其 20 倍的强文本阅读 LLM。它在完全没有历史的情况下也能高于随机排序，而读取标题的参考模型则不能；并且它在长历史下仍保持其增益，此时文本提示超过 50k token，而读取标题的参考模型停止改进。在配对推理依据审计中，该模型比该参考模型更好地论证权衡，但对条目的描述不够准确。因此，我们测试的常见后训练方法能引出基于 SID 的排序，但不能引出忠实的条目描述，这要求后训练改进推理本身，而不仅仅是其产生的排序。
| 评论： | 30 页，3 幅图。代码：此 https URL；数据：此 https URL |
| 主题： | 信息检索（cs.IR）；计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.22797 [cs.IR] |
| （或 arXiv:2610.22797v1 [cs.IR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.22797 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Zhenwei Tang [查看电子邮件]
[v1]
2026 年 10 月 16 日星期五 01:21:47 UTC（1,157 KB）
来源：arXiv cs.CL · arxiv.org