跳到正文
arXiv cs.AI· Tianyi Xu, Huazheng Wang·· 11 小时前AI 评分38

MemCryst:通过记忆与技能双向学习实现终身上下文适应

Lifelong Context Adaptation through Bidirectional Memory-Skill Learning

AI 导读

MemCryst 提出一种在冻结语言模型上双向学习记忆与技能的终身上下文适应框架,记忆中的重复片段支持技能创建与修订,技能引导的交互又反哺新记忆。在涵盖具身控制、长文档阅读、对话、数学与代码的十项设置中,MemCryst 在七项对比中领先;ALFWorld 上联合服务成功率 63.17%,高于仅记忆的 59.83% 和仅技能的 50.50%。代码已开源。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:终身 LLM 智能体必须从不断扩展的交互历史中学习,同时在有限的上下文窗口内做出每个决策。记忆使过去的经验可供使用,但智能体可能仍需从检索到的记录中推断如何解决每个新任务。技能提供了可复用的流程,但可能遗漏应用它们所需的任务特定事实。由于检索到的记忆和技能塑造了智能体的行为,它们也影响了可供未来学习的经验。我们提出了 MemCryst,一个通过记忆与技能的双向学习、配合冻结语言模型实现终身上下文适应的框架。存储在记忆中的重复情节支持技能的创建与修订,而这些技能引导的交互又为后续学习提供新的记忆。从记忆中检索到的事实与学到的技能共同构成智能体的上下文,而任务结果会调整实际提供的记录在未来检索中的影响力,且不重写其内容。在涵盖具身控制、长文档阅读、对话、数学和代码的十个设置中,MemCryst 在七项已报告的对比中领先。在 ALFWorld 上,联合提供达到 63.17% 的成功率,而仅记忆为 59.83%,仅技能为 50.50%。代码可在 此 https URL 获取
评论: 42 页,包括参考文献和附录。18 幅图,13 张表
主题: 人工智能(cs.AI)
引用为: arXiv:2610.32295 [cs.AI]
  (或 arXiv:2610.32295v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.32295

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Tianyi Xu [查看电子邮件]
[v1] 2026 年 10 月 23 日星期五 07:53:18 UTC(308 KB)

来源:arXiv cs.AI · arxiv.org