跳到正文
arXiv cs.CL· Junyi Zou, Avrova Donz·· 3 天前AI 评分26

MMLA-RSI:通过 RTT 与 RTMA 实现递归自我改进

MMLA-RSI: Recursive Self-Improvement through RTT and RTMA

AI 导读

MMLA-RSI 提出 Reasoning-Time Training(RTT)与 Reasoning-Time Memory Adaptation(RTMA)两条递归自我改进路径,分别改变策略状态 Φ 与权威记忆 M,并让各自的适应方法本身成为改进对象。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:智能体可以通过改变其行为方式以及保留哪些经验,在未解决的问题中改进自身行为。我们提出 MMLA-RSI,一种递归自我改进方案,在记忆中介学习架构中有两种实现:推理时训练(RTT)改变策略状态 $\Phi$,而推理时记忆适应(RTMA)改变权威记忆 $M$。每条路径还将其适应方法本身作为改进对象。当前的数值更新器训练提出其后继者的策略;当前的记忆管理器选择可供提出其后继者的过程使用的记录。一个被独立接纳的后继者在下一代中接管同一角色。我们给出有界可执行规则语言、共享的任务/提议接口,以及适用于任一途径或其组合的一种算法。RTT 实例在裁剪动量更新中改变标量调度。RTMA 实例选择 NULL 或可能带驱逐的完整行写入。固定的解释器、受信任的提交者和独立的评估者限定了可改变的内容。状态版本、读取闭包和条件属性描述了因果执行、被接受的转换和有限工作量。现有的数值组件研究为这一构造提供了动机。在四候选程序选择中,保留 LARC 反馈更新使两个训练初始化的预期误差分别降低 24.65 和 36.65 个百分点。在按时间顺序的持续集成回放中,反馈绑定为正,而保留会增加损失。已完成的 SQL 研究相比未适应的基底有显著改进,但未能确立所需的额外在线收益。这些结果刻画了其声明的组件。此处规定了两种递归路径及其联合实现;它们有益的递归链和发现效率仍有待评估。
评论: 技术报告。24 页,5 幅图,12 张表
主题: 计算与语言(cs.CL);机器学习(cs.LG)
引用为: arXiv:2610.20294 [cs.CL]
  (或 arXiv:2610.20294v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.20294

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Junyi Zou [查看电子邮件]
[v1] 2026 年 10 月 14 日星期三 14:47:50 UTC(356 KB)

来源:arXiv cs.CL · arxiv.org