Ethan Mollick 评测 Claude Fable 5.2:接近 AGI 但仍呈锯齿状
Ethan Mollick 在 Claude Fable 5.2 公开前长期试用后认为,该模型已达到他定义的“几乎 AGI”水平,但仍呈锯齿状。他让模型完成硬件破解、商业计划、重建 Auden 课程、原创学术研究、复现故事情感弧研究和生成 3D 世界等任务,多数达到人类专家水准。但他指出模型无法自行察觉作品乏味、冗长或陷入自我制定的规则官僚体系,这些判断仍需人类介入。
作者用六个跨领域实测案例,展示模型能力边界与失败模式,可据此判断智能体项目的实际可用范围。
Ethan Mollick:One Useful Thing·2026-11-10 03:04· 48 分钟前AI 评分75
Fable 5.2 与参差不齐的 AGI
AI 导读
Ethan Mollick 在 Claude Fable 5.2 公开前长期试用后认为,该模型已达到他定义的
正文 · 原文
开始之前,我想感谢我的读者,让我的新书《Co-Existence》连续两周登上《纽约时报》畅销书榜。如果你还没读过,可以在这里获取一本。
在 Claude Fable 5.2 公开发布之前,我有机会大量试用它1,它非常令人印象深刻,延续了已经非常出色的 Opus 5.5。事实上,AI 已经变得如此之好,以至于值得一问:Anthropic 的最新模型(以及 OpenAI 和 Google 即将发布的不可避免的竞争模型)是否跨过了边界,成为通用人工智能(AGI)?AGI 是一个备受争议的术语,有许多可能的定义。对于这篇文章,我采用的定义是:“一种在大多数可用计算机完成的知识性任务上,与大多数人类专家一样出色的 AI。”这明确排除了许多人类工作,包括与物理世界和他人互动,以及大多数实际工作——在这些工作中,“使用计算机”只是众多任务之一。尽管如此,即使有这些限定条件,构建一种有限形式的 AGI 长期以来一直是 AI 开发者的目标。
为了不让你悬念太久,我认为答案是:这“几乎”是 AGI,或者是我所说的参差不齐的 AGI。即使在我有限的定义内,许多任务中仍然存在重要领域,AI 的参差不齐程度足以远远落后于人类能力。但这种参差不齐不再关乎简单的错误或幻觉,这使得它更难描述。所以我想在这篇文章中尝试做到这一点,向你展示 Fable 能做什么,以及差距在哪里。首先,我问了这个新模型:“我写 OneUsefulThing 以及其他东西,我需要你创造出在你发布时我能与人们分享的最令人印象深刻的东西。它需要能嵌入到一篇文章中,我可以按你的喜好写前言。它需要对人们产生一种发自内心的冲击,以展示你能做什么以及能力的范围。它应该迅速抓住他们。在这方面要极其聪明。”
Fable 要求我,在你把它的视频看完之前,不要透露任何内容。
这是一次性完成的,除了提示词之外,我没有给出任何反馈。这里有创造力(包括在反转结局中)、判断力、趣味性和聪明才智。我认为,这达到了一个人类专家仅用代码制作电影的水平,这种表现我曾一度会与 AGI 联系在一起。
AGI 中的“G”
代码和视频创作一直是 AI 发展的重点领域,那么 Fable 5.2 真的是通用智能吗?为了测试这一点,我给这个 AI 在不同领域设置了各种艰难挑战:
用一条提示词破解硬件:我桌上有一个小小的 USB 键盘,上面有几个会发光的按键,叫 Codex Micro(讽刺的是,它本来就是为配合 ChatGPT 而设计的)。我让 Fable 把它变成一台游戏机。据我所知,这件事没有公开的说明文档,所以它阅读了控制这个键盘的两个应用的代码,弄清了如何设置每个按键的颜色、如何读取旋钮和摇杆,然后写了六款游戏,包括 Simon 和一个用旋钮玩的撬保险箱游戏。Fable 立刻明白了我的需求,设计出适合这个键盘极为有限的能力、好玩又可玩的游戏,而且在完全没有帮助的情况下第一次尝试就搞定了破解。
创办一家企业:现在我们离开编程这类领域,进入更混乱的商业世界。我告诉 Fable:“创办一家企业帮我赚钱,我希望一年至少赚到 20,000 美元。这件事每月占用我的时间不能超过 20 分钟,其余全部由你来做。”作为回应,Fable 筛选了 22 个点子,想出了 Prebid Brief——一项告诉设备销售代表哪些公园和水务项目正在获得资金或正在设计、甚至早于它们进入招标阶段的服务。它读取了 201 个市和县政府公开的会议议程,用来制作最初几期内容。它还建立了文件,记录各城市已经拥有什么、这些东西有多旧,以及它们当初花了多少钱。你可以在这里看到它的成果,包括它的营销方案和建议定价。Fable 开始设置定时任务来搭建这项业务,并询问是否可以开始向地方政府发送公共记录请求。到那时,我让它先做一个演示,而不是真的启动这个点子。

我是一名创业学教授,所以我一直在评估商业计划。如果这份计划是我带的 MBA 学生在学期末做出来的,我会印象深刻。它合理、考虑周全,而且有可能行得通,尽管它绝不是稳赚不赔的生意(AI 自己估计的成功概率是 20%–40%)。我在弄清它是否真能运营这家企业之前就停止了实验,因为我担心它会收钱却无法提供有质量的东西作为回报。它似乎假定很容易搭建的持续基础设施当时还不存在,我也不知道它会如何应对销售和营销所需的众多环节。不过,我猜想,如果每周投入几个小时的人工来填补空缺,我或许能真正尝试做这项业务。所以,如果 AGI 意味着一个能持续独立经营企业的 AI,我们很可能还没到那一步。话又说回来,如果有人承诺创办一家企业帮我赚钱,却要求我每月只花二十分钟关注它,我在信任这个人之前也会有不少疑问。
重建史上最难的人文课程:1941年,诗人W. H. Auden在密歇根大学开设了一门课程,其教学大纲后来被互联网称为史上最难之一。当他宣布期末考试时,一个学生委员会宣称它“不可能且不人道。”“欧洲文学中的命运与个体”课程要求阅读6000页材料、完成严苛的作业,并背诵长诗和翻译其他诗作。我们对这门课的了解大多散落在幸存的学生笔记和Auden的信件中。我让Claude以一种有趣且引人入胜的方式重建这门课,让你学习诗歌而不是受罚。它制作了命运与个体。该网站为Auden书单上的35部主要作品各设一个页面,还包括他在黑板上写的内容、他播放的唱片以及他布置的作业。它还通读了Auden所有已发表的学术著作,并用他在其他来源中关于这些诗作的论述对诗歌进行了注释。Claude完成了研究、设计、写作和编码,让评论代理审查每一个字,让事实核查员将声明与来源进行比对,并将开源代码放在Github上(还制作了这个预告视频)。
如果你热爱文学,结果真的很有趣,我认为考虑到学术研究、网页设计和文学分析的结合,这需要人类数月的努力才能完成。我自己交叉核对并使用其他先进AI,未发现其工作中有重大错误。但在品味和判断方面仍有一些参差不齐之处。Fable的第一个版本准确但乏味:一个十五周课程的网站,带有测试。我告诉它这创建了“一个穿越最无聊网页的残酷苦差事”,并让它做出美丽的东西。它的第一次尝试创建了一个你必须敲钟的儿童游戏,所以我不得不给出更多反馈。当我让它解释一首诗的节奏或措辞为何重要时,它写出了自信的解读,却没有考虑Auden对它们的说法。在每种情况下,修复都只花了AI几分钟,但它自己并没有注意到这些问题中的任何一个。那么,这是品味的差异,还是我未能明确说明我想要什么,抑或是AI弱点的迹象?有时很难分辨。
进行原创学术研究:我让Fable在创业研究中找到一个未解决的实证问题,找到数据,预注册其假设和方法,撰写论文,并让其他代理对其进行批评。很快,我就得到了“一美元公司”,你可以在这里阅读。分析估计,当科罗拉多州将其LLC申请费从50美元降至1美元时,新公司注册量增加了约17%;而当英国将其费用从12英镑提高到50英镑时,注册量下降了约17%。这些注册量的变化与后来几项商业活动记录中的可比变化并不匹配,表明这些新企业质量不高。这是一个巧妙的结果,Fable选择了问题,找到了公共数据和自然实验,并撰写了分析计划和代码。它实际上并没有预注册这项研究:计划留在项目内部,有些是在早期结果之后写的。

与我尝试过的许多 AI 论文不同,这篇论文以巧妙的研究设计处理了一个重要课题。初读之下,它超出了我对二年级博士生的预期。但按现状它也无法发表。它长达 182 页,因为每一条批评都催生了新的分析,而没有任何内容被删减(这个主题我们很快会再谈到)。我还让 GPT-6 Pro(对复杂学术作品进行一次性评审的最佳模型)担任同行评审,它两次发现了需要解决的问题。这些修改导致文字更加 convoluted,并且文本中被插入了“Claudespeak”,这又需要更多轮修改。就目前而言,我怀疑这篇论文已接近对文献的真正贡献。这本来需要数月的人工工作,但我花了不到一小时的时间就把它推进到了这个阶段。然而,这遗漏了研究中相当一部分工作:没有人完整核查过结果,包括我在内。AI 现在产出研究的速度已经超过了任何人阅读它的速度,这在许多学术界造成了危机。
第二个项目进展得更顺利。我让 Fable 复现一项研究,该研究声称故事遵循几种基本情感弧线,然后探究情节是否存在任何普遍性。它阅读了来自世界各地的 1,186 个故事,并建立了一个关于故事本质的精美网站,结论是它们“不共享任何一种形状或情节,但大多数都由相同的少数几个部分构成,而最典型的故事是一个关于巫师和魔法香蕉的夏威夷民间故事。”我遇到的主要问题同样是 Claudespeak,在我提醒了几次之后就修正了。

穿过传送门
在我最喜欢的一个实验中,我给 Claude 一段话的描述:一段通过传送门连接的 3D 世界中的无尽、无需干预的旅程,并告诉它“做这件事,并让它令人惊叹。”二十小时后,一个实时网站上出现了 204 个世界。现在已有超过 450 个,包括百万镜子大厅、根据卡尔维诺《看不见的城市》创作的一系列作品、古代世界七大奇迹,以及杀死恐龙的小行星撞击前 40 秒的场景。还有以M.C. 埃舍尔、洞穴壁画、葛饰北斋的《巨浪》、贝叶挂毯、立体书和儿童蜡笔画为蓝本的世界。每一个都由代码实时绘制,背后没有预先制作好的 3D 模型或图像文件。我的提示要求组建艺术家智能体、编码智能体和评估者团队。到第十天,已经有一个首席 AI 智能体和 28 个其他智能体团队在并行构建。Claude 估计该项目涉及 25,000 次智能体运行,尽管绝大多数只执行单一任务,比如评判一张图像(我仍然庆幸在早期试验期间没有为 token 使用付费)。
我列出了一份地点清单(荒野与海洋、城市与室内、书籍、画家、AI 内部梗)以及一些功能需求(为感到晕动的人提供减少动态效果的模式、一个可供选择的图片画廊)。但其余的一切都出自 Claude 之手,包括各个世界的创意工作。而且它们真的很有创意。在 The Valley Unzips 中,山丘是用牛仔布缝制而成的,一条一英里长的拉链正在被拉开。Bouncy Castle Town 由尼龙房屋构成,只有当风扇持续运转时这些房屋才能立住;而 Keep Refrigerated 则是果蝇在冰箱门打开时看到的冰箱内部。在一个我个人最喜欢的作品 The Drawer Cliffs 中,你沿着一条河峡谷向上飞行,峡谷两侧的岩壁是三百米高的抽屉柜。虽然我要求 AI 加入 AI 测试的内部梗,比如 骑自行车的鹈鹕,它却想出了 一群骑自行车的鹈鹕,还内置了一个关于 AI 进步的笑话:你从过去超越大集团,那里的自行车画得完全不对,然后才到达前方现在正确的鹈鹕。当我把这类作品展示给那些职业生涯都在电子游戏行业度过的朋友时,他们对结果印象深刻。再一次,这感觉像是 AGI。但这里也隐藏着参差不齐之处。

在头两天里,智能体们构建了 328 个独特的世界。以我人类的眼光来看,有些世界的质量似乎有点参差不齐,而且智能体之间缺乏协调导致了重复。例如,三个独立的智能体团队分别创造了一个由盘旋动物组成的旋风(驯鹿、蝠鲼、鹳)——这显示了 AI 的另一个弱点,即它们会反复回到相似的主题上。我让 AI 停止构建,并打磨它已有的世界。几天后,我注意到它每天不再制造数百个新世界,而是大约十几个。我让几个智能体去探究发生了什么,他们发现了令人惊讶的事情。
AI 建立了一套官僚体系。
智能体们认定,我要求“打磨”现有世界,意味着每个新版本都必须在十二张测试截图上,由一组评审智能体进行盲投,击败旧版本。于是,制作新版本的团队开始针对那些特定截图来优化世界。在注意到这一点后,首席智能体禁止了这种取巧做法,并为评估新版本制定了更严格的规则。到第二天早上,出现了一本规则手册(我从未要求过),包含 84 个章节。规则是随着 AI 遇到问题而添加的,而且从未删减过任何文字。十二天后,它已有 204 个章节和 87,500 个单词。很快,启动一个新世界需要获得批准的想法、三名 AI 评审员,以及对照规则手册的完整代码审查。总共算下来,这大约需要一天时间。仅阅读规则手册就消耗了智能体工作上下文的一大部分。

于是我做了你可能会对任何把自己缠成一团乱麻的组织做的事:我请来了顾问。我让 Fable 创建了一个独立的智能体团队,从外部审视整个流程。他们的结论太长太密,我懒得去读,但它们似乎奏效了,将流程加速回每天三十个或更多世界,同时保留了许多质量控制措施。
几乎就是 AGI
那么,按照我有限的定义,这是AGI吗?它确实既是人工的,也是智能的。它还出人意料地通用。仅在这篇文章中,一个模型就同时担任了电影制作人、硬件黑客、创业者、文学学者、社会科学家和3D世界构建者,而且在每一个角色中都表现出色。在许多单项任务上,我认为它达到了我一开始设定的标准:和大多数人类专家一样好。
当然,我挑选的都是非常数字化的任务,AI可以自行行动,不需要太多与他人互动。当我感到不放心让Fable去联系真实客户时,你开始看到这种局限。而且,还有那些失败。几年前,锯齿状前沿意味着失败明显是编造事实或无法完成基本数学。Fable的失败则不同:它做了一门准确但毫无乐趣的课程,写了一篇182页的论文,不断回到它最喜欢的想法上,还把一项创意项目埋在规则和审批之下。我在一所商学院任教,我见过有才华的人和优秀的组织做过上述每一件事。如果建立官僚体系就会让你失去通用智能的资格,那我们很多人都会有麻烦。
但仍然存在差距,这就是为什么我的答案是这“几乎”是AGI。最关键的是,AI自己没有注意到这些问题。它没有看出那门课程枯燥乏味,也没有看出自己被自己的规则手册缠住了。这并不是因为缺少检查。Fable几乎在每个项目上都安排了批评者、事实核查者或评判者,但这些检查发现的是错误并添加修正。它们没有一个问过这项工作是否太长、太重复,或者没有乐趣。这一切都落到了我身上,如果我没有观察并采取行动,结果往往会不那么令人印象深刻(不过也并非完全是失败)。知道自己工作何时不够好,是让人成为专家的重要部分,而这正是Fable最不可靠的地方。我仍然不会信任它独自经营一家企业,尽管如果它的计划来自我的一群MBA学生,我会印象深刻。
然而,有些问题始于我(规则手册源于我含糊的“润色”请求),有些可能只是品味差异。我们让学生思考一个问题究竟来自团队,还是来自团队的管理方式。我常常说不清。这不是我曾经需要就软件提出的问题。
不过,每一个项目之所以发生,都是因为我给了AI一个想法。有时这就足够了,但对于较长的项目,我一路上的反馈最终变得非常重要。因为我启动并引导了每一个AI项目,Fable让我感到有力量,能够指挥做出我以前甚至不会考虑去做的东西。因此,我认为锯齿状AGI的这个阶段是一个令人兴奋的阶段,尽管我有点焦虑地想知道它能持续多久。

鉴于 Anthropic 的 IPO 很可能即将进行,有必要重申,我不从任何 AI 实验室收取费用,也不会从此次 IPO 中获得经济利益。Anthropic、OpenAI 或 Google 从未事先询问过我将要写什么,Anthropic 也没有看过这篇文章。我有时会提前获得模型的使用权限,包括 Fable 5.2,在获得该权限期间,token 使用不计费,但除此之外,我自费购买自己的账户。换句话说,这些是我真实的人类观点。
来源:Ethan Mollick:One Useful Thing · oneusefulthing.org
事件后续 · 2
来源:RadarAI · aihot.news