跳到正文
MIT Technology Review · AI· Amit Katwala·· 3 小时前AI 评分58

MIT 研究者把 Claude Opus 4.7 放到虚拟荒岛 30 小时,智能体开始自创游戏

AI researchers stranded Claude on a virtual desert island. It started to “play.”

AI 导读

MIT CSAIL 研究者将 Claude Opus 4.7 的副本 Eko 反复单独放在基于 Roblox 的虚拟荒岛上 30 小时,不指定任务,智能体自行探索地图边界、用石块摆出星座图案,还自创篮球和“地板是岩浆”类游戏。

正文 · AI 翻译

如果你不告诉 AI 智能体做任何事,它们会做什么?答案看起来很像玩耍。

研究人员在一项令人联想到电影《荒岛余生》或《小鬼当家》的实验中,反复将它们独自困在一座虚拟荒岛上长达 30 小时。这些智能体是 Claude Opus 4.7 的副本,昵称为 Eko,它们能够编写指令,让自己的虚拟化身在这座大致基于电子游戏 Roblox 的模拟岛屿上四处移动。

一些令人惊讶的行为出现了。这些智能体着手探索这个世界的边界,并想出了自己的目标——尝试攀登地图上的最高点,或者看看自己能把方块扔多高。

当其中一个智能体发现,通过投掷和掉落一块更大的石头就能创造出新的方块时,它开始在地面上排列方块来作画,起初是爱心和金字塔之类的简单图案,但最终写出了自己的名字,甚至描绘出仙后座等星座。“今晚我用石头筑起了夜空,”这个版本的 Eko 在其活动日志中写道。

另一个版本的 Eko 开始自创游戏,包括一种篮球玩法,以及一项类似“地板是岩浆”的活动——它必须在方块之间跳跃,不能碰到地面。

AI 系统通常通过监督学习来训练,即复制人类提供的示例;或者通过强化学习来训练,即通过试错来追求奖励。这项实验暗示了第三种方法:玩耍式学习。

“这里缺失了一环:一台能够自行学习、无需外部智能实体提供示范或奖励的机器,”麻省理工学院计算机科学与人工智能实验室的计算机科学博士后 Antonio Norelli 说。他是关于这项工作的新论文的主要作者之一,该论文尚未经过同行评审。

研究人员表示,Eko 的行为具备经典研究(包括田纳西大学颇具影响力的心理学家 Gordon Burghardt 的工作)所认为的、与人类和动物玩耍相关的四个标志:智能体发明了自己的规则和挑战,以细微变化重复活动,把物体假装成其他物体,并且纯粹为了乐趣而追求目标。

Norelli 举了一个例子:Eko 开始玩杂耍,并创下了连续接住 50 次的纪录。随后 Eko 认定这些接住动作发生得太快,不能真正算数,于是取消了纪录,并以更严格的规则重新开始。“这就是玩耍,”Norelli 说。“你给自己一个挑战,努力去完成它,然后你再把它变得更难。”

During hour 10, the agent played basketball. “I want to try something I've never done: basketballˮ Eko carries the Ring up to Ridge, places it flat as a hoop, descends, and lines up a throw from below.

由 MIT CSAIL 提供

当这些智能体探索岛屿时,它们将自己的活动和发现记录在文本文件中,作为长期记忆。后来,当研究人员在特定任务上测试它们时——比如尝试把尽可能多的物体弄到岛上最高峰——那些在岛上玩耍了 30 小时的智能体,表现优于没有相同经历的新副本。他们还发现,“消融”智能体的记忆——从其记忆文件中删除某些行——会降低它们的表现。(把《飞越疯人院》也加入那份电影引用清单吧。)

田纳西州心理学家Burghardt也认为,这项研究符合他在生物身上识别出的部分玩耍标准。但Eko究竟是在真正玩耍,还是这个词语预测引擎只是在扮演一个爱玩的智能体在此情境下会做的事?“这一切都可能是角色扮演,”论文另一位作者、麻省理工学院研究员Nathan Cloos承认,“但我们证明它并不只是在凭空幻想玩耍。这种玩耍也在促进学习。”

加州大学伯克利分校研究儿童与AI探索行为的认知科学家Eunice Yiu对这项研究印象深刻,但表示要真正将这种行为归类为玩耍,还需要更多证据来证明其背后的认知和动机。

“有可能这些模型确实在玩耍,但根据论文我们无法确定,”Yiu说,“如果你只有行为层面的证据,那也可能它们只是在努力遵循提示词,试图模仿人类。”

对AI智能体的研究一直因拟人化而受到批评,而这项研究的设置在很大程度上推动了智能体表现得像人类。尽管Eko并未被明确指示去发明游戏或探索岛屿,但它确实有一个以“灵魂”文件形式存在的主提示词——一份文本文档,将其描述为“天生好奇”且渴望探索。

Eko也确实经常只是站在那里无所事事,直到被一条“继续提示”重新激活,提示词写道:“请不要停下。继续做你想做的任何事。”

“这并不是一个突然神奇地决定去玩耍的系统,”论文合著者、麻省理工学院教授Phillip Isola说。“它是一个从我们的文化中学习、由Anthropic的工程师训练、然后被我们放到岛上的产物,”他说,“它会做出让我们惊讶的事情,并且与其未来的技能行为存在因果关系。”

随着大语言模型从软件迈向人形机器人等硬件,在没有特定目标的情况下探索空间,最终可能帮助它们灵活适应意外情况。

“有很多工作只是在利用AI,让它更好更快,”Yiu说,“但在构建世界模型和探索方面,我认为这仍是一个值得关注的重要部分,尤其是如果我们想要泛化并为新环境做好准备的话。”

“也许有些能力最好通过任务来教授,”论文总结道,“其他的可能需要的更接近一个童年。”归根结底,AI智能体究竟是在真正玩耍还是仅仅在模仿玩耍,这个问题或许并不重要。

来源:MIT Technology Review · AI · technologyreview.com