跳到正文
arXiv cs.CL· Anikait Singh, Teresa Zhang, Yoonho Lee, Roshen Sanjay Nair, Aviral Kumar, Chelsea Finn·· 2 天前AI 评分37

Librarian Agents:训练 LLM 为未来查询预构建长上下文工作区

Librarian Agents: Training LLMs to Curate Long-Context Workspaces that Anticipate Future Queries

AI 导读

研究者提出 Librarian Agents 框架,让 builder agent 将原始文档转化为合成文件与引用链接构成的分层文件系统,并通过强化学习直接优化下游回答准确率。该方法在 BrowseComp-Plus 上比最强检索与预计算基线高出 33 个百分点,在 BRIGHT 上零样本跨域平均准确率提升 31 点,且构建成本可分摊到多次查询。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:对长文档上下文进行推理仍然是大语言模型(LLM)面临的一项挑战。标准检索方法本质上是反应式的,在推理时会让智能体在复杂的跨文档推理上形成瓶颈,而知识图谱等预计算结构往往表现不佳,因为它们依赖僵化的启发式规则。那么,我们能否让智能体执行预期性的定向整理:学会在推理之前主动重组非结构化语料库,以高效服务于未来多样化的查询。我们基于现代智能体框架(如 Claude Code)中的一个关键不对称性:虽然 LLM 智能体擅长浏览现有文件系统以解决眼前任务,但它们很少被训练去构建可供未来使用的可复用工作空间。为实现这一能力,我们提出了 Librarian Agents,这是一个框架,其中构建者智能体将原始文档转换为由合成文件和引用链接组成的分层文件系统,形成一个为下游回答智能体量身定制的工作空间。我们将工作空间构建形式化为马尔可夫决策过程,并通过强化学习优化构建者策略,以直接最大化下游回答准确率。在实证上,Librarian Agents 在 BrowseComp-Plus 上比最强的检索和预计算基线高出 33 个百分点,将前期构建成本分摊到重复查询中,并在 BRIGHT 上零样本泛化到未见领域,平均准确率提升 31 个百分点。
学科: 机器学习(cs.LG);人工智能(cs.AI);计算与语言(cs.CL)
引用为: arXiv:2610.22273 [cs.LG]
  (或 arXiv:2610.22273v1 [cs.LG] 对应此版本)
  https://doi.org/10.48550/arXiv.2610.22273

arXiv 颁发的 DOI 经由 DataCite(待注册)

提交历史

来自:Anikait Singh [查看电子邮件]
[v1] 2026年10月15日星期四 17:35:17 UTC(4,665 KB)

来源:arXiv cs.CL · arxiv.org