跳到正文
RadarAI· MarkTechPost(RSS)·· 6 小时前AI 评分47

Meta FAIR Self-Improving Memory 在 Continual Learning Bench 上取得 56.0 平均分

AI 导读

Meta FAIR 联合华盛顿大学、约翰霍普金斯大学提出 Self-Improving Memory,让基于 Kimi-K2.6 的智能体自行发现并蒸馏记忆管理技能。

正文 · AI 翻译

MarkTechPost· Michal Sutter·2026-11-20 05:46· 1 小时前AI 评分53

Meta FAIR 自我改进记忆在持续学习基准上达到 56.0

AI 导读

Meta FAIR 联合华盛顿大学和约翰霍普金斯大学的研究者推出 Self-Improving Memory,一种让基于 Kimi-K2.6 的智能体自己发现并蒸馏记忆管理技能的两阶段方法。

正文 · 原文

Meta FAIR 推出了 Self-Improving Memory,一种让 AI 智能体自行管理记忆的方法。模型首先自行发现记忆指令,然后将这些技能训练进其权重中。共同作者包括来自华盛顿大学和约翰霍普金斯大学的研究者。

TL;DR

  • 方法:基础模型是 Kimi-K2.6,一个 1T 参数的 MoE,激活参数 32B,上下文 256K。蒸馏在注意力投影层上添加一个 LoRA 适配器(rank 64)。
  • 运行环境:训练硬件未披露。Kimi-K2.6 推理需要多 GPU 节点;Vast.ai 推荐 8x H200。存在原生 INT4 权重。
  • 性能:自行发现的记忆提示在 3 个任务上平均得分 56.0,而最佳人工编写的提示为 44.6。
  • 最佳:Codebase,使用优化提示达到 64.3,比最佳手写 harness 高 20.6。
  • 最差:Spectrum 蒸馏仅提升 2.9 分(46.5 对 43.6,后者为通用运行上的 SFT)。

什么是 Self-Improving Memory?

Self-Improving Memory 是 Meta FAIR 的一种两阶段方法,用于教会智能体模型管理基于文件的记忆。智能体在一系列子任务中工作。每个子任务都从空上下文开始。只有通过文件工具编辑的持久记忆目录会被保留。

两个提示控制该记忆。OFFLOAD 在子任务后更新记忆。LOAD 在下一个子任务前检索笔记。通用版本将策略留给模型决定。研究博客中的一项初步研究发现,没有任何单一手写策略能在所有任务中胜出。

harness 优化如何工作?

在第一阶段,一个元智能体重写 LOAD 和 OFFLOAD 提示。搜索从 4 个人工编写的种子开始:Summary、Retrieval、Skill 和 Hypothesis。每个候选运行完整任务流 5 次。按平均得分排名前 4 的成为修订的父代。

对于每个父代,元智能体读取轨迹、得分和最终记忆目录,然后提出修订后的提示。选择使用元智能体无法看到的留出集。

发现的提示是具体的。一个 Database 提示要求先读取 GUARDRAILS.md,再读取 SCHEMA.md,然后作答。最佳 Codebase 设计使用一个快速入门文件、一个索引修复注册表和单独的修复文件。

harness 蒸馏如何将收益移入权重?

第二阶段遵循 Discover-Demonstrate-Distill 流水线。任务智能体使用优化后的提示运行训练子任务。每次模型调用都被记录。研究团队随后在该历史中将优化提示换回通用提示。

这种替换之所以有效,是因为行为在通用指令下仍然有效。示例包括保留 QUICKSTART.md、REGISTRY.md 和 SCHEMA.md 文件,以及在聚合前验证连接键。模型使用 LoRA(rank 64)在注意力投影层上进行微调。损失仅覆盖助手 token,包括推理和工具调用。每个任务权重相同。

元智能体和任务智能体是同一个 Kimi-K2.6 模型。因此,模型是在它自己发现的记忆技能上训练的。

基准测试显示了什么?

测试使用 3 个 Continual Learning Bench 任务:Database(SQL)、Codebase(仓库修复)和 Spectrum(无线电扫描)。测试子任务遵循设计好的阶段偏移。因此结果衡量的是对相同任务新实例的泛化能力。

测试得分DatabaseCodebaseSpectrum平均
无记忆7.531.821.920.4
压缩39.836.934.637.1
通用 harness32.333.542.536.1
最佳人工编写47.943.742.144.6
优化后的 harness53.864.349.956.0
在通用轨迹上做 SFT31.637.543.637.6
在优化轨迹上做 SFT(通用提示词)37.745.146.543.1

来源:Self-Improving Memory 博客图 4 和图 5。所有行均使用 Kimi-K2.6。

优化后的 harness 在全部 3 个任务上都超过了最佳人工编写的种子。Codebase 提升最大,达到 20.6 分。搜索过程噪声较大:44 个生成的修订中有 37 个未能超过此前的最佳结果。Database 和 Spectrum 在第一代就达到峰值。Codebase 一直提升到第 4 代。

蒸馏之后,每个模型都运行通用 harness。蒸馏后的模型在 10 个匹配种子上平均为 43.1。在通用轨迹上做 SFT 达到 37.6。这相当于提升 5.5 分,即 14.6%。

与 ALMA、MemEvolve 和 Harness-Zero 相比如何?

近期有几种方法在智能体记忆或 harness 上进行搜索。Self-Improving Memory 搜索记忆提示词,然后将其蒸馏进权重。由于基准测试不同,主要数字不能直接比较。

特性Self-Improving MemoryALMAMemEvolveHarness-Zero
机构FAIR at Meta、UW、JHUXiong、Hu、CluneOPPO AI Agent Team、LV-NUS北京大学、Google、HKUST
搜索对象LOAD/OFFLOAD 记忆提示词以 Python 代码表示的记忆设计记忆架构与内容完整智能体 harness
训练权重是,LoRA rank 64否否是,LoRA SFT
模型Kimi-K2.6(智能体和元智能体)GPT-5 元智能体,GPT-5-nano/mini 任务智能体GPT-5-mini(外加 DeepSeek V3.2、Kimi K2)Qwen3.5-9B 学生模型
基准测试Continual Learning Bench(3 个任务)ALFWorld、TextWorld、Baba Is AI、MiniHackGAIA、WebWalkerQA、xBench-DeepSearch、TaskCraftSpreadsheetBench Verified、AppWorld、USPTO Retrosynthesis
主要结果56.0 对 44.6 最佳人工 harness;蒸馏后 43.153.9% 对 41.1% 无记忆(GPT-5-mini)最高提升 17.06%移除 harness 后从 23.3% 到 44.3%
代码未发布GitHubGitHubGitHub

Harness-Zero 最为接近,但它使用一个单独的智能体来纠正学生模型。Self-Improving Memory 跳过了这一步。

关键要点

  • Kimi-K2.6 编写的记忆提示词优于人工编写的:56.0 对 44.6。
  • Codebase 提升最大:64.3,上升 20.6 分。
  • 蒸馏保留了部分增益:使用通用提示词时为 43.1 对 37.6。
  • 44 个元智能体修订中有 37 个失败,因此评估和选择很重要。

查看博客文章、X 帖子 以及 Continual Learning Bench 论文。你可以通过我们的 GPULeaderboard.com chrome 扩展在此查看部署选项和规格。

另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 150k+ ML SubReddit 并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们了。

需要与我们合作推广您的 GitHub 仓库、Hugging Face 页面、产品发布、网络研讨会等?联系我们

文章 Meta FAIR 自我改进记忆在持续学习基准测试中达到 56.0 首次发布于 MarkTechPost。

来源:MarkTechPost · marktechpost.com

来源:RadarAI · aihot.news