arXiv cs.AI· Jiajun Han, Guoxin Ma, Felix, Liangsheng Xu, Ruiqi Yu, Yingdi Guo, Zongbing Wang, Xinhua Ye, Chenyan Hua, Xin Xie, Pengcheng Yang, Haijun Wu·· 3 天前AI 评分28
微信提出 WeGR:面向工业搜索系统的统一生成式检索框架
WeGR: Unified Generative Retrieval for Industrial Search Systems in WeChat
AI 导读
微信提出统一生成式检索框架 WeGR,由 CoCo-VAE 分词器与 DHPO 策略优化两部分组成,前者引入查询-物品和物品-物品协同信号并通过码本刷新缓解码本坍缩,后者逐步扩展奖励评估与策略优化视野以缓解精确 SID 匹配下的奖励稀疏。
正文 · AI 翻译
作者:Jiajun Han、Guoxin Ma、Felix、Liangsheng Xu、Ruiqi Yu、Yingdi Guo、Zongbing Wang、Xinhua Ye、Chenyan Hua、Xin Xie、Pengcheng Yang、Haijun Wu
摘要:生成式检索(GR)通过将候选生成统一到自回归框架中,为工业搜索提供了一种有前景的范式。然而,其有效性受到两个关键挑战的限制。首先,现有的语义 ID(SID)分词器难以在保持有效码本利用率的同时融入协同信号,限制了其区分物品和实现高质量检索的能力。其次,现有的强化学习(RL)方法在精确 SID 匹配下存在严重的奖励稀疏问题,导致许多采样轨迹缺乏有效的学习信号,阻碍了偏好优化。为应对这些挑战,我们提出了 WeGR,一个由两个互补组件构成的统一生成式检索框架。具体而言,协同且无坍缩的分词器(CoCo-VAE)融入了查询到物品和物品到物品的协同信号,同时通过码本刷新和互补正则化缓解码本坍缩,从而获得信息更丰富、更均衡的 SID 表示。基于这些 SID,动态视界策略优化(DHPO)逐步扩展奖励评估和策略优化的视界,在降低学习难度的同时利用 SID 层级不同层次上的行为奖励信号,且不依赖辅助奖励模型。大量离线实验证明了 WeGR 在提升检索和排序性能方面的有效性。此外,在微信电商搜索中为期两个月的在线 A/B 测试显示,订单量相对提升 2.539%,点击率相对提升 1.508%,转化率相对提升 1.381%,同时在线 CPU 和 GPU 使用量分别降低 25.5% 和 26.1%。该系统已成功部署于微信的多个搜索场景,服务数十亿用户,每日产生数千万 PV。
| 评论: | 11 页,4 幅图,会议 |
| 主题: | 信息检索(cs.IR);人工智能(cs.AI) |
| 引用为: | arXiv:2610.16979 [cs.IR] |
| (或 arXiv:2610.16979v1 [cs.IR] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.16979 arXiv 颁发的 DOI 经由 DataCite(待注册) |
提交历史
来自:Guoxin Ma [查看邮箱]
[v1]
2026 年 10 月 12 日星期一 15:38:47 UTC(1,527 KB)
来源:arXiv cs.AI · arxiv.org