arXiv cs.AI· Karthik Ravula, Sathwik Kowtha, Rishabh Verma, Kala Mehak Jain, Gunjit Mittal·· 11 小时前AI 评分31
对话式智能体的持久化检索：检索效率研究
Persistent Retrieval for Conversational Agents: A Study of Retrieval Efficiency
AI 导读
研究对比三种对话式智能体检索设计，提出跨轮次维护检索历史、直接向主智能体返回证据的持久化检索子智能体。在五种多轮设置下，该方案比技能式检索少用 43.3% 的智能体模型 token、API 成本低 45.0%，响应时间缩短 9.1%。相比非持久化检索，每题响应时间减少 15.6 秒，但 token 用量高 65.1%、API 成本高 29.1%。
正文 · AI 翻译
摘要：对话式智能体可以直接检索信息，也可以将检索委托给子智能体。这一设计选择会影响检索历史的维护方式、每次模型调用接收的上下文，以及后续问题中必须重新检索的信息。我们比较了三种设计：主智能体中基于技能的检索、生成发现结果响应的非持久化检索子智能体，以及我们的持久化检索子智能体——它在多轮对话中维护检索历史，并将检索到的证据直接返回给主智能体。我们的方法还允许主智能体向同一子智能体请求更正。
我们在企业问题上评估了这三种设计，这些问题分别以独立提问、共享对话内提问和依赖式后续提问的形式提出。在五种多轮设置中，与基于技能的检索相比，我们的方法记录的智能体-模型 token 用量减少 43.3%，估计 API 成本降低 45.0%，同时平均响应时间缩短 9.1%。与非持久化检索相比，它使每个问题的响应时间减少 15.6 秒，但 token 用量增加 65.1%，估计 API 成本提高 29.1%。
我们的方法使检索子智能体从生成综合响应转变为维护检索状态，并提供主智能体可直接评估和用于生成答案的证据。
| 评论： | 9 页，4 幅图，6 张表 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；信息检索（cs.IR） |
| 引用为： | arXiv:2611.07899 [cs.AI] |
| （或 arXiv:2611.07899v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.07899 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Karthik Ravula [查看电子邮件]
[v1]
2026 年 11 月 5 日星期四 12:19:39 UTC（58 KB）
来源：arXiv cs.AI · arxiv.org