什么在追踪难负样本迁移?词汇与语义信号研究
一项研究比较了词汇非覆盖度、冻结编码器相似度统计、难度代理等信号,在 BM25、稠密、LLM 生成及混合来源的 MS MARCO 训练数据上对稠密检索器迁移的追踪能力。在三个检索器骨干和十一个 BEIR 数据集上,IDF 加权的平均词汇残差性复现了全部六组骨干与设置块的迁移排序,而语义统计量均无法恢复完整排序,与词汇信号结合也未提升排序一致性。
一项研究比较了词汇非覆盖度、冻结编码器相似度统计、难度代理等信号,在 BM25、稠密、LLM 生成及混合来源的 MS MARCO 训练数据上对稠密检索器迁移的追踪能力。在三个检索器骨干和十一个 BEIR 数据集上,IDF 加权的平均词汇残差性复现了全部六组骨干与设置块的迁移排序,而语义统计量均无法恢复完整排序,与词汇信号结合也未提升排序一致性。
RAG4Tickets 提出一套 RAG 框架,用 Sentence-Transformers 做语义嵌入、FAISS 做向量检索,将历史 JIRA 工单、用户评论与关联 PR 元数据统一索引,再由 LLM 生成有依据、可解释的解决建议。该框架打通 JIRA 与 GitHub 数据,在精确率、召回率、解决时间缩短和开发者接受度等指标上显著提升了解题准确率与知识复用。
MEMONDEMAND 是一个面向大规模企业仓库的记忆管理系统,通过动态多级层级、每层双记忆(蒸馏路由与详细证据分离)和按需记忆提升三种机制协同工作。在 EnterpriseRAG-Bench 上,它从 10M token 到完整 618M token 集合的每个评测规模均超越已公开的 LB#1 最强结果,10M 时提升 12.23%,618M 时提升 4.66%。
MegaMem 是一个源解析双视图检索系统,将语义访问与生成证据分离,在 EnterpriseRAG-Bench(超 50 万份企业文档、约 6.5 亿 token)上将 Overall 从 68.22 提升至 82.26,Correctness 达 86.50。
研究者提出多智能体交互记忆(MATM)框架,让生产者智能体将轨迹贡献到共享仓库,消费者智能体检索复用,实现群体级经验存储与检索。在 ALFWorld 和 WebArena 长流程交互环境中,从 MATM 检索可提升下游任务表现并减少交互步数,且无需协调或联合训练。
GRASP 是一种混合检索器,通过小型 LLM 规划器将查询转为可执行图计划,融合图排序与文本排序,并用微调重排序器重排候选结果。在三个 STaRK 基准上,GRASP 所有指标均取得最优,平均 Hit@1 较最强基线提升 18.6 分,单次查询耗时仅 2.47 秒。
GraphCompliance 是一个结构感知的合规审查框架,将监管文档表示为 schema 引导的 Policy Graph、上下文信息表示为实体-关系三元组的 Context Graph,并通过 Compliance Gate 对齐两图以识别相关监管要求并对照上下文证据评估。
研究者提出 CE-RAG4EM 框架,通过基于分块的批量检索与生成,降低 LLM 实体匹配中 RAG 的端到端开销。在九个真实实体匹配基准数据集上,该框架在零样本设置下取得相当或更优的匹配质量,并在属性模糊或数值稀疏的数据集上显著提升 F1 分数。分析还揭示了分块批量大小与检索粒度上的性能-开销权衡。
SaraCoder 是一个在固定上下文预算下通过分层上下文剪枝提升知识密度的检索增强框架,其 Hierarchical Feature Optimization 模块分四阶段剪枝过完备候选池,再将释放的 token 分配给 External-Aware Identifier Disambiguator,选择性注入最必要的跨文件依赖定义。
针对现有检索评估只对单文档独立打分、忽略文档间冗余与互补的问题,研究者提出评估-诊断-优化框架,并构建 SetwiseEvalKit——覆盖短文本与长文本场景的三级九维文档集评估基准,含约 28K 条高质量评分标准。
Memorilla 是一种面向冻结 LLM 的记忆系统,可将整个文档集合编码为可复用嵌入,并学习把查询相关信息放入模型的输入嵌入空间,仅用 16 个 memory tokens 即可完成检索。
多模态文档 RAG 的瓶颈不在检索,而在生成器如何读取检索到的页面。研究发现,在 SciEGQA 上把页面视觉 token 预算从 1K 提到 32K 可提升 15.22 分,固定 16K 时加入 ground-truth 裁剪再提升 3.75 分。
研究者提出 Librarian Agents 框架,让 builder agent 将原始文档转化为合成文件与引用链接构成的分层文件系统,并通过强化学习直接优化下游回答准确率。该方法在 BrowseComp-Plus 上比最强检索与预计算基线高出 33 个百分点,在 BRIGHT 上零样本跨域平均准确率提升 31 点,且构建成本可分摊到多次查询。
AURA 框架通过直接监督中间推理状态对相关文档与困难干扰项的区分能力,并训练轻量效用估计器在推理时自适应调整推理深度。在 BRIGHT 基准上,AURA-4B 以平均 2.8 个推理步骤和每查询 96 个生成 token 达到 34.7 nDCG@10,自适应停止将延迟从 4.6 秒降至 0.76 秒。MS MARCO 上的结果表明,这种专门化不会显著降低常规域内检索性能。
研究者提出一种基于随机投影的 RAG 数据存储隐私保护方法,对数据存储嵌入向量和查询嵌入向量施加相同投影,可证明地保持查询与检索项之间的语义相似性,同时大幅缓解数据提取攻击。在多种 RAG 架构和数据集上,该轻量方法在检索与生成性能上优于此前依赖形式化差分隐私(DP)保证的方法,在强攻击模型下经验隐私性相当。
研究者发布 VELD-QA,一个面向长文档视觉证据定位与问答的大规模基准,包含 15,000 个人工编写问答对,覆盖 5,859 份真实 PDF、共 372,445 页,均衡涵盖图表、表格与复杂版式任务。
研究者开发了一款通用 AI 导师系统,可处理学生用外语(当前聚焦中文)提出的问题并给出双语回答,同时生成技术术语词汇表及解释。该系统采用专门的 RAG 流水线与新颖的问题提取机制,以利用多样化课程材料。基于 91 条 Piazza 帖子评测,系统正确且有效地回答了 83.52% 的问题,为 76.92% 的问题提供了高质量翻译,并为 64.47% 的问题生成了术语词汇表。
RAG-RST 是一个检索增强框架,通过上下文示例而非参数更新为 LLM 提供篇章结构,无需训练即将核心性从 0.794 F1 提升至 0.846 F1、关系从 0.738 F1 提升至 0.788 F1。
CARA 是一种免训练的因果引导检索智能体,通过"结果性"(加入证据是否提升可答性)与"必要性"(移除证据是否削弱可答性)两项因果相关性标准评估检索到的证据,并结合路径一致性与倒数排名融合聚合多智能体证据。在三个 STaRK 数据集上,CARA 持续优于现有检索器,同时提升答案质量与忠实度,且检查的图节点和检索操作更少。
研究者提出免训练框架 TEM(Temporal State Tracking Memory),将事实存为带版本、关联来源的记录,按来源顺序排列并标注历史记录后再交给答案模型。
研究发现搜索增强 LLM 常直接依据搜索摘要作答而不打开来源页面,这与更高的过时答案率和引用不实相关。团队用训练截止后发生变化的时间性事实,测试了一个商用模型的联网搜索和六个开放权重模型的受控检索配置,发现证据可用性与实际使用之间存在明显落差。即使检索到的证据已影响模型内部预测,最终答案仍可能偏向过时信息。
研究者提出 SPRA(Structured Paper Representation for Agents),一种以持久化研究对象和类型化关系组织的论文级表示,其 empirical-AI 配置涵盖 Problems、Contributions、Components、ExperimentSetups、Measures 和 Findings。
DocPilot 是一个支持表达性编排的智能体文档框架,通过页面级导航与细粒度证据定位,结合局部视觉检查、代码数值推理和跨模态推理,并借助课程式智能体训练将能力迁移至小模型。在 MMLongBench-Doc、DocBench、FinRAGBench-V 和 MADQA 上,DocPilot 搭配前沿 VLM 取得显著提升,DocPilot-4B 性能可媲美更大模型,代码已开源。
研究提出无需训练的 ExecutionRAG 需求登记机制,记录未解决的子问题及其支撑证据,以区分检索器无法访问与智能体未发起查询两类失败原因。在 1,000 道 MuSiQue 问题上,all-MiniLM-L6-v2 的缺失证据错误答案从 382 降至 234,Qwen3-Embedding-0.6B 从 383 降至 274。
研究对比非生成式决策模型 Jev 与前沿 LLM Astra 在 LLM-AggreFact 的 495 条人工标注声明上的表现,两者在常规指标上仅差 -0.56 分,成本却相差 187 倍。
MeddeX 将 QLoRA 微调的 LLaMA-3(8B)与 RAG 及多模态 Gemini Vision 层结合,为医学报告生成有证据支撑的摘要,支持文本 PDF、扫描件和放射影像。
研究者提出免训练确定性检索方法 SSR,用于从不断增长的注册表中发现合适的 Agent Card。在 1,000 个智能体规模下,SSR 相对全目录编排减少 LLM 输入 98.8%、编排延迟 70.9%;在 MS MARCO 上 ISI 将显式评分段落减少 96.8% 且保持检索效果。该方法通过 IDF 加权结构化词汇信号与倒排信号索引,维持紧凑候选上下文并避免全目录编排的运行故障。
研究者提出 OpenTI(Open Tabular Insight Extraction)框架,从第一性原理形式化"人需要什么分析知识、如何从表格语料中推导、结果如何服务用户"三个问题,以统一表格问答、text-to-SQL、数据分析智能体等分散的任务标签。
Search-G1 是一个将检索必要性与证据依赖耦合的奖励框架,通过两个干预校准的隐藏状态读出实现选择性有据搜索:prompt 读出预测闭卷充分性以代理检索必要性,answer-commit 读出预测证据依赖。该框架经校准后打分无需过程标注或 LLM 评判推理,并在四个 QA 基准和两种规模上取得有竞争力的准确率,同时表现出更强的反事实证据依赖和更少的搜索次数。
针对输入为间接证据(如依赖行列、数据类型与上下文的表格单元格)时目标概念难以被检索的问题,研究者提出 Factorized Hypothesis Search(FHS),在命名语义维度上维护多个部分解释,支持结构化查询渲染、多假设检索与维度级候选验证。
SPARK 将参数化知识控制建模为潜在参与策略学习问题,让 LLM 在生成时自适应调节参数化知识的贡献,同时保持主干模型完全冻结。该框架仅引入并优化 0.01% 的额外可训练参数,通过面向忠实性的奖励优化轻量参与策略,动态调节 FFN 介导的参数化知识。在六个数据集上的实验表明,SPARK 在保留主干 LLM 通用能力的同时,生成忠实度优于竞争基线,数据集与代码已公开。
研究者提出 ReGrad(Retrievable Gradients),将梯度视为可检索的知识单元:离线预计算文档专属梯度并存入索引化的 Gradient Bank,推理时仅检索与查询相关的梯度做临时权重适配,从而避免持续后训练中的权重漂移。
一篇被 EMNLP 2026 接收的综述系统梳理了 135 项关于 RAG 攻击、防御与安全评估的研究,并提出 SLOT 分类体系,沿攻击面(S)与对应防御层(L)组织,辅以目标(O)和攻击目标范围(T)两个交叉维度。研究将文献映射到外部知识访问流程后,揭示出目标错配、阶段错配和信号错配三类问题,并公开了筛选流程、论文元数据与机器可读的 SLOT 标签。
PixSearch 是一种端到端的分割式大型多模态模型(LMM),将区域级视觉锚定与检索增强推理统一起来,在自回归生成中学习何时检索、如何在文本、整图和区域级检索间路由查询,并用联合训练的掩码解码器裁剪目标实体作为视觉查询。
SciRerankBench 是首个专门评估 RAG-LLMs 系统中 reranker 的基准,覆盖五个科学学科。
开源 Python 工具 SCANAR 与 AIDOC 可加速医疗健康领域的 Horizon Scanning。SCANAR 自动完成新闻文章检索与处理,结合去重和无监督相关性排序;AIDOC 借助大语言模型与文本嵌入计算语义相似度,按相关性重排数据。
一项综述对医疗临床任务中的开放 LLM 与 AI 基础模型进行梳理与分类,并在个性化处方任务上实测开放权重模型。在 100 个合成患者档案上,开放权重模型未用 RAG 时整体适用性准确率达 0.810–0.850,高于专有基线 0.780,但置信区间重叠;加入 RAG 后所有模型均提升,排名差距缩小至 0.04 以内。
研究者提出 CPW-Drive,一个闭环 RAG 框架,将中国儒家思想提炼的价值原则与场景案例结合,为自动驾驶决策提供可检索的价值引导,并提出物理感知空间相似度检索(PSSR)方法。
ScholarSeed AI 团队提出 ScholarStack,将论文集合编译为可复用、带版本与溯源信息的三层研究资产:论文级陈述、领域级组织和跨论文证据综合。在覆盖十种任务设置的四个任务族中,使用该资产的智能体在跨论文证据类任务(如多论文问答与文献综述生成)上质量提升,且所有测量任务的查询时 token 成本均下降。
研究者提出基于 LLM 的检索系统 STAIR,利用语料库的全局结构(如目录 ToC)来存储和检索信息,在自建基准 SearchTome 上取得 82.6% 的 Recall@1,高于 DSI 的 76.9%、BM25 的 59.5%、DPR 的 68.7% 和开箱即用的 Mistral 的 13.8%。