arXiv cs.AI· Rodrigo Reveron-Fonseca·· 14 小时前AI 评分31
在 XLand-MiniGrid 上审计 LSTM 的记忆优势:种子、地图与评估噪声
Memory or a Clock? Auditing a Memory Advantage in XLand-MiniGrid with Seeds, Maps and Evaluation Noise Apart
AI 导读
在部分可观测的 XLand-MiniGrid 任务上,LSTM 智能体比无记忆 MLP 高出 25 个百分点,但审计发现这一差距主要来自“知道时间步”而非记忆。
正文 · AI 翻译
摘要:在一个部分可观测的 XLand-MiniGrid 任务上,LSTM 智能体比无记忆的 MLP 高出 25 个百分点。这一差距看起来是记忆作用的明确例证。我们围绕它提出两个问题。第一,测得的差距中有多少是噪声?在 60 次运行中分离训练种子、地图和评估随机性,每次运行重新评估三次,我们发现约十个配对种子即可检测出最终成功率上 10 个百分点的差距。而“任务已习得”这一二元判定——学习曲线的常见总结方式——有 76% 是评估噪声,要检测同样的差距需要约一百个种子。第二,这一差距是记忆带来的吗?在一组封存的新地图面板上(仅开启一次),一个与 LSTM 规模相同的无记忆 MLP 在获得时间步信息后,与 LSTM 的差距缩小到 3.3 个百分点以内,而在没有时间步信息时,其宽度没有带来可测量的收益。在提供时间步的情况下,一个规模仅为 LSTM 四分之一的 MLP,以及每一步都擦除状态的 LSTM,也都能将差距缩小到约 5 个百分点以内。一个线性探针可以从训练后的 LSTM 状态中读出时间步。在这个任务上,表面上的记忆优势大部分其实是知道时间的优势,这一点很重要,因为回合在固定上限处被截断,且奖励随时间缩减。我们建议为无记忆基线提供时间步信息,并发布协议、事件驱动工具以及所有检查点。
| 评论: | 17 页,7 幅图。代码:此 https URL。数据与检查点:此 https URL |
| 主题: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2610.33816 [cs.LG] |
| (或 arXiv:2610.33816v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.33816 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Rodrigo Reveron-Fonseca [查看邮箱]
[v1]
2026 年 10 月 24 日星期六 17:28:20 UTC(117 KB)
来源:arXiv cs.AI · arxiv.org