arXiv cs.AI· Xinyuan Song, Bowen Zhu, Hasibul Haque, Liang Zhao·· 2 天前AI 评分39
MegaMem：面向超长上下文窗口的检索方案
MegaMem: A Retrieval Solution for Ultra-Large Context Windows
AI 导读
MegaMem 是一个源解析双视图检索系统，将语义访问与生成证据分离，在 EnterpriseRAG-Bench（超 50 万份企业文档、约 6.5 亿 token）上将 Overall 从 68.22 提升至 82.26，Correctness 达 86.50。
正文 · AI 翻译
摘要：现代语言模型和智能体日益需要持久记忆，以应对完整代码库、长交互历史以及异构企业记录。关键挑战在于，如何在保持数亿 token 可搜索的同时，只将有限来源证据传递给答案模型。我们提出 MegaMem，一种来源解析的双视图检索系统，将语义访问与生成证据分离。蒸馏记录和详细证据分别用原始查询和变换查询进行检索；每个蒸馏命中在互惠排名融合、去重和交叉编码器重排序之前，都解析到一个不可变的来源 ID；只有固定预算内排名最高的详细证据才支持生成。答案后归因随后识别哪些已加载来源支持该固定答案。我们在 EnterpriseRAG-Bench 上评估 MegaMem，该基准包含超过 500,000 份异构企业文档和约 650M token。MegaMem 将 Overall 从 68.22 提升到 82.26，并达到 86.50 的 Correctness。这些结果表明，MegaMem 在有限生成上下文下支持超大规模持久记忆，同时保持强答案准确性。通过将可搜索记忆规模与答案上下文大小分离，MegaMem 为从数亿到十亿 token 范围的记忆实现准确检索提供了一条实用路径。我们的代码可在 此 https URL xfab-xinyuansong/MegaMem.git 获取。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2608.22137 [cs.AI] |
| （或 arXiv:2608.22137v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2608.22137 由 DataCite 颁发 arXiv DOI |
提交历史
来自：Bowen Zhu [查看电子邮件]
[v1]
2026年8月22日星期六 23:37:52 UTC（2,545 KB）
[v2]
2026年10月15日星期四 05:11:57 UTC（1,670 KB）
来源：arXiv cs.AI · arxiv.org