arXiv cs.CL· Yunhan Li, Mingjie Xie, Zeyang Shi, Gengshen Wu, Min Yang·· 12 小时前AI 评分29
超越召回饱和:面向工业法律检索的难负样本重排序器训练扩展
Beyond Recall Saturation: Scaling Hard-Negative Reranker Training for Industrial Legal Retrieval
AI 导读
在中文法律检索基准上,embedding top-300 已进入高召回区间,但相关证据仍可能排在输出截断线以下,说明瓶颈转向重排序器质量。研究对比 embedding 挖掘、自挖掘与动态负样本等难负样本策略,发现 embedding-to-self-mined 两阶段流程性价比最优,额外动态阶段并未提升全部留出指标。
正文 · AI 翻译
摘要:工业检索系统通常通过扩大嵌入候选池或采用复杂的训练流程来提升质量。我们表明,在足够大但实用的候选池下,嵌入召回呈现收益递减,这促使我们更仔细地审视重排序器质量。在中文法律检索基准上,嵌入 top-300 达到高召回工作区,而相关证据仍可能被排在输出截断线以下。我们在对齐的检索协议下比较重排序器训练的硬负样本策略,包括嵌入挖掘、自挖掘和动态负样本变体,这些协议在候选检索之后评估重排序。在评估的分阶段配置中,嵌入到自挖掘的流程提供了有利的权衡;额外的动态阶段并未改善所有留出指标。所选流程从 0.6B 扩展到 4B 重排序器。相对于原生 4B 重排序器,训练后的 4B Stage2 模型在 STARD 和 CSAID 基准以及内部开发集上改善了报告指标,并且在延迟敏感的离线偏好评估中,对 410 个去标识化、重建的内部操作查询输入,在 72.4\% 的非平局比较中被优先选择。这些结果支持在为工业检索系统选择优化目标时分别评估检索和重排序阶段。
| 评论: | 11 页,6 张表,4 幅图 |
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2610.24478 [cs.CL] |
| (或 arXiv:2610.24478v2 [cs.CL] 为此版本) | |
| https://doi.org/10.48550/arXiv.2610.24478 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Yunhan Li [查看电子邮件]
[v1]
2026 年 10 月 17 日星期六 05:49:46 UTC(2,390 KB)
[v2]
2026 年 10 月 22 日星期四 04:11:50 UTC(2,390 KB)
来源:arXiv cs.CL · arxiv.org