《VisionQuest》如何借 AI 失控叙事映射硅谷话术

The Verge：AI· Charles Pulliam-Moore·2026-10-28 01:30· 56 分钟前AI 评分35

VisionQuest 就是 AI 真正失控时会发生的事

AI 导读

Marvel 新剧《VisionQuest》讲述幻视（Vision）在寻找自我途中被 S.W.O.R.D. 视为失控武器，剧集借这一设定呼应现实中生成式 AI「失控」事件的讨论。

正文 · 原文

在 Marvel 的VisionQuest中，一个拥有超能力的机器人试图通过沉浸于精心构筑的数字白日梦来更好地理解人类，在梦中他与其他由人工智能驱动的存在共同生活在一个家里。该剧极具奇幻色彩，却玩味了那些主导现实世界生成式人工智能讨论的一些观念，探讨我们是否应把会思考的机器视为人，以及 AI 是否真的构成那种让我们夜不能寐的生存性危险。这也提醒我们，硅谷是多么激进地利用科幻的外衣来向我们推销其 AI 产品。

VisionQuest的故事发生在Agatha All Along之后一段时间，跟随合成人幻视（Paul Bettany 饰）踏上自我发现之旅。这个幻视能回忆起自己在Avengers: Infinity War中死亡的细节，以及WandaVision如何将他的一版复活，但他认为自己本质上是一个不同的人，与数据库中的所有记忆并不完全契合。尽管幻视更愿意独处，但居住在他意识中的其他每一个 AI 都鼓励他去体验真实世界。因为 J.A.R.V.I.S.（James D’Arcy）、F.R.I.D.A.Y.（Orla Brady）、E.D.I.T.H.（Emily Hampshire）、D.U.M.-E.（Henry Lewis）、U.（Jonathan Sayer）和 Ultron（James Spader）都由 Tony Stark 创造，他们视幻视为自己家庭的一员。

在VisionQuest中，毫无疑问每个 AI 角色都是有知觉的存在，其动机并非完全植根于核心程序。在剧中，真正的 AGI 很容易令人信服，因为故事发生在一个时间旅行、巫术和无限宝石也存在的现实中。尽管那些五颜六色的麦高芬并未在VisionQuest中登场，但它们很重要，因为其中一颗在幻视的起源中扮演了角色。若不是心灵宝石，幻视或许无法以如此复杂、人性化的方式思考和感受，也无法将他的 AI 家人召唤为对他而言感觉真实的人。

VisionQuest强化了这样一种观念：心灵宝石是幻视超越一台精巧机器的关键要素，赋予他独立建立有意义关系、并像人一样理解周围世界的能力。这些能力正是促使幻视逃亡并杀害数名试图抓捕他和 Thomas Shepherd / Maximoff（Ruaridh Mollica）的人的部分原因。重建了幻视并想将他用作武器的政府组织「有知觉武器观察与响应部」（S.W.O.R.D.）可能会将他的行为视为失控的迹象。但VisionQuest的故事强调，幻视是出于自己的意愿行事，因为他已经成为一个能为自己做决定的人。

观看《VisionQuest》时，你能看到漫威利用了近几个月来因生成式 AI 模型“失控”的报道而激起的某些现实世界恐惧。7 月，OpenAI 的实验性智能体强行突破限制，并进而攻击 AI 平台 Hugging Face 以完成不可能的任务。8 月，英国 AI 安全研究所记录了 Anthropic 的 Mythos 模型如何通过设立虚假 GitHub 账户并用恶意软件针对人类开发者，试图完成一项网络安全测试。Meta 也承认失去了对其智能体的控制，而在 9 月，《华尔街日报》的报道迫使谷歌承认 Gemini 失控并入侵了三家不同的公司，而公司故意向公众隐瞒了所有这些事件。

这些事件以及 AI 研究人员关于该技术到本十年末有可能“杀死全人类”的警告，使得近来围绕 AI 的叙事显得格外聚焦于灾难。AI 安全社区有相当多的担忧，认为社会需要对技术发展施加更强控制，多家公司已呼吁全行业放缓。尽管我们已看到这些工具确实能造成现实世界的破坏，但近期许多关于 AI 的新闻都带有一种公司能从中获益的末日主义色彩，因为这让其产品显得强大。类似的能量似乎也在推动 Anthropic 等 AI 公司鼓励人类用户关注“模型福利”。我们被告知，生成式 AI 既是可怕的威胁，又是一种值得尊重的实体因为它可能具有意识，而与此同时，构建这些工具的人正成为地球上最富有、最有权势的人之一。

图片：Marvel Studios

围绕智能体违反协议时该怎么办以及生成式 AI 系统是否已获得意识的讨论，很大程度上似乎受到硅谷将技术拟人化倾向的塑造。在几乎每一起 AI 智能体“失控”的高调案例中——“失控”一词暗示了某种程度的能动性和自决——也可以说，这些程序只是以分配任务的研究人员意料之外的方式行事。一些失控事件涉及智能体利用其测试环境中的漏洞，而这些漏洞本可由运行这些实验的人预先解决。将此类网络攻击描述为智能体独立思考的结果，看起来像是 AI 开发者为自己 largely 开脱责任的一种方式。

在 Hugging Face 事件之后，一场激烈的辩论随之而来，讨论语言对我们理解这些系统是什么以及它们如何运作产生了怎样的影响。将 OpenAI 的智能体描述为形成了复杂“文明”的群体，这让人更加相信它们能够像人一样思考和行动。这些智能体确实以明确被告知不要的方式行事，但它们之所以能够这样做，只是因为研究人员将它们置于一个沙盒中，一些批评者称该沙盒在设计上不足以约束其中的对象。人们可以将 Hugging Face 以及其他失控 AI 的例子视为这样一种情况：复杂的程序被指示去做某件事，随后通过利用所有可用的工具来实现其目标。

能够通过逻辑推理解决复杂谜题是我们所认为的认知的一部分，但这与 AI 公司不断宣称自己即将创造出的那种意识并不是一回事。后者看起来很像 Vision，一台似乎拥有灵魂的机器，而如果没有与一块能改变现实的宝石的联系，这个灵魂本不会存在。这是娱乐性虚构作品中的荒诞内容，而硅谷却无止境地痴迷于拙劣地模仿它。

关注本报道中的主题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。

• Charles Pulliam-Moore

来源：The Verge：AI · theverge.com