跳到正文
arXiv cs.AI· Rodrigo Reveron-Fonseca·· 14 小时前AI 评分31

在 XLand-MiniGrid 上审计 LSTM 的记忆优势:种子、地图与评估噪声

Memory or a Clock? Auditing a Memory Advantage in XLand-MiniGrid with Seeds, Maps and Evaluation Noise Apart

AI 导读

在部分可观测的 XLand-MiniGrid 任务上,LSTM 智能体比无记忆 MLP 高出 25 个百分点,但审计发现这一差距主要来自“知道时间步”而非记忆。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:在一个部分可观测的 XLand-MiniGrid 任务上,LSTM 智能体比无记忆的 MLP 高出 25 个百分点。这一差距看起来是记忆作用的明确例证。我们围绕它提出两个问题。第一,测得的差距中有多少是噪声?在 60 次运行中分离训练种子、地图和评估随机性,每次运行重新评估三次,我们发现约十个配对种子即可检测出最终成功率上 10 个百分点的差距。而“任务已习得”这一二元判定——学习曲线的常见总结方式——有 76% 是评估噪声,要检测同样的差距需要约一百个种子。第二,这一差距是记忆带来的吗?在一组封存的新地图面板上(仅开启一次),一个与 LSTM 规模相同的无记忆 MLP 在获得时间步信息后,与 LSTM 的差距缩小到 3.3 个百分点以内,而在没有时间步信息时,其宽度没有带来可测量的收益。在提供时间步的情况下,一个规模仅为 LSTM 四分之一的 MLP,以及每一步都擦除状态的 LSTM,也都能将差距缩小到约 5 个百分点以内。一个线性探针可以从训练后的 LSTM 状态中读出时间步。在这个任务上,表面上的记忆优势大部分其实是知道时间的优势,这一点很重要,因为回合在固定上限处被截断,且奖励随时间缩减。我们建议为无记忆基线提供时间步信息,并发布协议、事件驱动工具以及所有检查点。
评论: 17 页,7 幅图。代码:此 https URL。数据与检查点:此 https URL
主题: 机器学习(cs.LG);人工智能(cs.AI)
引用为: arXiv:2610.33816 [cs.LG]
  (或 arXiv:2610.33816v1 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.33816

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Rodrigo Reveron-Fonseca [查看邮箱]
[v1] 2026 年 10 月 24 日星期六 17:28:20 UTC(117 KB)

来源:arXiv cs.AI · arxiv.org