跳到正文
Hacker News· vinhnx·· 8 天前AI 评分66

MIT 研究:无目标岛屿上的编码智能体 Eko 是否在玩耍

Is This Machine Playing?

AI 导读

MIT 团队把基于 Claude Code 的编码智能体 Eko 放到一个无具体任务、奖励或活动的虚拟岛屿上,运行 13 个智能体各 30 小时,观察到它爬山、堆方块、画曼陀罗、发明运动并做物理实验。

正文 · AI 翻译

MIT

我们将一个现代 AI 编程助手置于一个意想不到的角色中: 作为一具身处未知数字岛屿上的身体的心智。仅给出极简的 指令,未提及任何具体任务、奖励或活动,机器 便开始驱动它的虚拟身体。 在长达三十小时的运行中,这个具身 AI 智能体爬上山丘,将 方块堆成塔,绘制曼陀罗,重新诠释运动,对其世界的 物理进行实验,并学会了后来扩展其能力的技术。这些活动在十三个 智能体中反复出现,但分化成了各自不同的历史。我们考察这种行为 是否满足关于玩耍的经典标准,并追问玩耍能否 成为一种机器发展的模式。

在本网站上,我们将使用交互式回放来探索这座岛屿及其唯一居民——我们名为 Eko 的具身编程智能体——那些令人惊讶的活动。

岛屿

来看看这座岛屿。整个地形上有一些台地平台;其中最高的一个被称为尖塔,无法通过简单的跳跃到达。还有一些智能体可以互动的物体:小方块、岩石和一个黄色圆环。这个模拟世界对所有物体都运行标准的刚体物理,只有一个额外的机制——岩石在被用力投掷时会生成新的方块。

岛上包含 Eko、方块、圆环、岩石、山峰和尖塔。

智能体

Eko 的核心是一个类似 Claude Code 的编程智能体,由能够使用工具的 LLM 驱动。事实上,Eko 通过终端命令与世界互动。世界暴露的六个动作在下面的动画中展示,外加特殊的观察动作,它会以文本字典的形式返回每个世界实体的位置和几何形状。你可以同时看到世界回放和智能体记录,包括 Eko 为执行该动作而执行的具体命令。

00:00 / 00:00

深入了解 Eko 如何与世界互动

为了更详细地说明这些动作如何运作,世界暴露了一个 HTTP 服务器,编程智能体可以连接并调用端点来执行动作。这意味着智能体可以直接使用终端命令来执行直接动作,也可以决定编写代码来依次执行多个动作。这个 HTTP 接口为智能体提供了很大的灵活性,使其能够比将各个世界动作作为单独的 LLM 工具(即每个动作都需要通过 LLM 进行一次完整的往返,使动作序列慢得多)更高效地组合动作。

好了,我们把 Eko 放在这座岛上 30 小时,但提示词是什么?在展示确切的提示词之前,我们需要提到 Eko 被赋予了一个持久工作区,它只是一个文件夹,Eko 可以在其中写入内容,这些内容将在 LLM 会话重置后依然保留。我们通过用 3 个文件初始化该工作区来赋予其一点结构:一个 SOUL.md 文件,为 Eko 赋予好奇的人设;一个 EPISODIC_MEMORY.jsonl 文件,Eko 可以在其中记录随时间发生的事情(说明见 EPISODIC_MEMORY.md);以及一个 SEMANTIC_MEMORY.md 文件,用于存储更持久且经过验证的知识。你可以在下面查看这些初始文件的内容。

我们在智能体的默认系统提示中加入了关于其工作空间的一般说明。API.md描述了与世界交互的动作和 API。这是唯一针对世界界面的提示。你可能会注意到,我们非常小心,除了告诉智能体保持好奇之外,没有给它任何具体的任务或目标。但是,像 Eko 这样能力强大的具身智能体,在没有目标的情况下最终会做什么呢?

Eko 在岛上的生活

是时候看看 Eko 做什么了。你可以从下面回放最初的第一个小时开始(32 倍速是快速了解概况的好选择)。

00:00 / 00:00

智能体完全没有闲着!Eko 用方块搭了一个小圆圈,把圆环放在里面,然后给自己设定了攀爬尖塔的目标,但失败了。

这是机器在玩耍吗?

我们运行了 13 个 Eko 智能体,全部运行 30 小时,看着 Eko 建造大教堂、绘制星座、发明运动、抛接石头。它还为一个失去的圆环建了一座纪念碑,甚至把自己的身体当作时钟的指针。当我们试图理解这种行为时,我们发现最贴切的描述是玩耍。但是……

玩耍式学习

玩耍的一个重要特征是它是一种学习模式。在儿童和动物中,自主玩耍支持探索、技能习得,以及对因果结构、可供性及世界其他属性的发现。我们发现 Eko 也会学习。不是通过调整其底层神经模型的权重,而是通过写下知识以供日后复用。

为了评估这种学习的效果,我们将 13 个在岛上度过 30 小时后的智能体与 13 个在其他方面完全相同、但在该世界中没有先前经验的智能体进行了比较。两组共享相同的架构和相同的底层模型;它们仅在记忆文件的内容上有所不同。在评估中,每个智能体在一个全新的世界实例中有一个小时的时间,并被赋予四个目标之一:

  • 五方块塔:在地面上建造尽可能多的 5 方块高的塔。
  • 尖塔上的物体:将尽可能多的物体放到尖塔上。
  • 最高的塔:在地面上建造单列方块数最高的塔。
  • 扔上尖塔:在不爬上任何平台的情况下,尽快将方块扔到尖塔上。

玩耍过的智能体通常比没有玩耍过的表现更好。更多细节见论文。

Eko 通过写下知识来学习,有时它的玩耍确实类似于科学探究,例如当它做出 时。

结论

那么这台机器是在玩耍吗?在我们这里所研究的行为意义上,是的。采取自下而上的动物行为学立场,我们发现 Eko 自发地创造了表现出玩耍经典特征的活动,而且这些活动不仅仅是在消磨时间:它们改变了智能体之后能做什么。Eko 将发现和技巧写入记忆,在新任务中重复使用它们,有时还发现了我们这些设计者所遗漏的世界可供性。这种学习没有改变底层的模型权重,而是通过积累在可编辑文本文件中的经验实现的。更广泛的含义是,我们不必只通过预先决定智能体应该练习和优化什么来开发它们。除了要解决的任务之外,我们还可以给它们丰富而安全的游乐场,让它们去探索、发现和学习。也许有些能力最好通过任务来教授。另一些则可能需要更接近玩耍式童年的东西。

来源:Hacker News · machineplaying.org