跳到正文
arXiv cs.AI· Ngoc Luyen Le, Marie-H\'el\`ene Abel, Bertrand Laforge·· 14 小时前AI 评分22

CA-HNM:面向稠密检索的约束感知硬负样本挖掘框架

CA-HNM: Constraint-Aware Hard Negative Mining for Dense Retrieval with Structured Domain Models

AI 导读

CA-HNM 将检索候选生成与结构化领域模型推导的确定性不兼容规则结合,离线构建带类型上下文的硬负样本,仅需在负样本构造阶段使用结构化信息。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:稠密检索器通常使用从词汇或稠密检索结果中选取的难负样本进行训练。然而,检索邻近性并不能表明候选样本是否与显式领域结构相冲突。我们提出 CA-HNM,一种约束感知的难负样本挖掘框架,它将基于检索的候选生成与源自结构化领域模型的确定性不兼容规则相结合。该框架移除已知正样本,围绕查询目标构建局部类型化上下文,记录关系、范围、目标和层级不匹配,并利用所得候选样本微调标准双编码器。结构化信息仅在离线负样本构建期间需要。我们在 MOOCCubeX 和 Course-Skill Atlas 上使用两种编码器、两种训练损失和十个随机种子评估 CA-HNM。相对于检索排名匹配的对照组,CA-HNM-Pure 在八种数据集--编码器--损失配置中的六种具有更高的平均 NDCG@10。四个分层 95% 自助法置信区间完全高于零,且大多出现在三元组损失下。在另一项实验中,CA-HNM-Mixed 在两个集合上的平均 NDCG@10 均略高于匹配混合对照组。结构变体表明,可用结构的变化也会改变候选资格和负样本池的组成。结果表明,约束感知选择的贡献取决于训练目标和负样本池的组成。
主题: 信息检索(cs.IR);人工智能(cs.AI)
引用为: arXiv:2610.35045 [cs.IR]
  (或 arXiv:2610.35045v1 [cs.IR] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.35045

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Ngoc Luyen Le [查看电子邮件]
[v1] 2026年10月26日星期一 08:58:35 UTC(271 KB)

来源:arXiv cs.AI · arxiv.org