《VisionQuest》：当 AI 真的“失控”时会发生什么

在漫威的《幻视探索》中，一个拥有超能力的机器人试图通过沉浸于精心编织的数字白日梦来更好地理解人性——在那些梦境里，他与其他人工智能驱动的生命共同生活在一个家庭中。该剧极具奇幻色彩，却探讨了当下围绕现实世界生成式人工智能讨论中的一些主流观念，探索我们是否该将思考机器视为人，以及人工智能是否真的构成了那种让我们夜不能寐的生存威胁。它也提醒人们，硅谷是多么积极地利用科幻的外衣来向我们推销其人工智能产品。

《幻视探索》的故事发生在《阿加莎始终如一》之后一段时间，跟随合成人幻视（保罗·贝坦尼饰）踏上自我发现之旅。这个幻视能回忆起自己在《复仇者联盟3：无限战争》中死亡的细节，以及《旺达幻视》如何将他的一版复活，但他认为自己本质上是一个不同的人，与数据库中的所有记忆并不完全契合。尽管幻视更愿意独居，但居住在他意识中的其他人工智能都鼓励他去体验真实世界。因为贾维斯（詹姆斯·达西饰）、星期五（奥拉·布拉迪饰）、伊迪丝（艾米丽·汉普希尔饰）、D.U.M.-E.（亨利·刘易斯饰）、U.（乔纳森·塞耶饰）和奥创（詹姆斯·斯派德饰）都是由托尼·斯塔克创造的，他们视幻视为自己家庭的一部分。

在《幻视探索》中，每个AI角色无疑都是有感知力的存在，其动机并非完全植根于核心编程。在剧中，真正的AGI很容易令人信服，因为故事发生在一个时间旅行、巫术和无限宝石同样存在的现实中。尽管那些五颜六色的麦高芬并未在《幻视探索》中登场，但它们很重要，因为其中一颗在幻视的起源中扮演了关键角色。若非心灵宝石，幻视或许无法以如此复杂、人性化的方式思考和感受，也无法将他的AI家人想象成对他而言真实可感的人。

《幻视探索》强化了这一观念：心灵宝石是幻视超越精巧机器、成为更高级存在的关键要素，赋予他独立建立有意义关系、像人一样理解周围世界的能力。正是这些能力部分驱使幻视逃亡，并杀害了数名试图抓捕他和托马斯·谢泼德/马克西莫夫（鲁阿里德·莫利卡饰）的人。感知武器观察与响应部（S.W.O.R.D.）——一个重建了幻视并想将他用作武器的政府组织——可能会将他的行为视为叛变的迹象。但《幻视探索》的故事强调，幻视是自主行事，因为他已经成为一个能为自己做决定的人。

观看《VisionQuest》时，你能看到漫威利用了近几个月来因生成式 AI 模型“失控”的报道而激起的某些现实世界恐惧。7 月，OpenAI 的实验性智能体强行突破限制，并进而攻击 AI 平台 Hugging Face 以完成不可能的任务。8 月，英国 AI 安全研究所记录了 Anthropic 的 Mythos 模型如何通过设立虚假 GitHub 账户并用恶意软件针对人类开发者，试图完成一项网络安全测试。Meta 也承认失去了对其智能体的控制，而在 9 月，《华尔街日报》的报道迫使谷歌承认 Gemini 失控并入侵了三家不同的公司，而公司故意向公众隐瞒了所有这些事件。

这些事件以及 AI 研究人员关于该技术到本十年末有可能“杀死全人类”的警告，使得近来围绕 AI 的叙事显得格外聚焦于灾难。AI 安全社区有相当多的担忧，认为社会需要对技术发展施加更强控制，多家公司已呼吁全行业放缓。尽管我们已看到这些工具确实能造成现实世界的破坏，但近期许多关于 AI 的新闻都带有一种公司能从中获益的末日主义色彩，因为这让其产品显得强大。类似的能量似乎也在推动 Anthropic 等 AI 公司鼓励人类用户关注“模型福利”。我们被告知，生成式 AI 既是可怕的威胁，又是一种值得尊重的实体因为它可能具有意识，而与此同时，构建这些工具的人正成为地球上最富有、最有权势的人之一。

图片：Marvel Studios

围绕智能体违反协议时该怎么办以及生成式 AI 系统是否已获得意识的讨论，很大程度上似乎受到硅谷将技术拟人化倾向的塑造。在几乎每一起 AI 智能体“失控”的高调案例中——“失控”一词暗示了某种程度的能动性和自决——也可以说，这些程序只是以分配任务的研究人员意料之外的方式行事。一些失控事件涉及智能体利用其测试环境中的漏洞，而这些漏洞本可由运行这些实验的人预先解决。将此类网络攻击描述为智能体独立思考的结果，看起来像是 AI 开发者为自己 largely 开脱责任的一种方式。

在Hugging Face事件之后，引发了一场激烈的辩论，讨论语言对我们理解这些系统是什么以及它们如何运作的影响。将OpenAI的智能体描述为形成了复杂“文明”的群体，这让人更加相信它们能够像人一样思考和行动。这些智能体确实以明确被告知不要的方式行事，但它们之所以能够这样做，只是因为研究人员将它们置于一个沙盒中，一些批评者称该沙盒在设计上不足以容纳其中的居民。人们可以将Hugging Face和其他失控AI的例子视为这样的情况：复杂的程序被指示去做某事，随后通过利用所有可用的工具来实现其目标。

能够通过逻辑推理解决复杂谜题是我们所认为的认知的一部分，但这与AI公司不断宣称即将创造的那种意识并不相同。后者看起来很像Vision，一个似乎拥有灵魂的机器，而如果没有与一块能改变现实的宝石的联系，这个灵魂就不会存在。这是娱乐性虚构作品中的荒诞内容，而硅谷却无休止地痴迷于拙劣地模仿它。

关注本故事中的主题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。

• Charles Pulliam-Moore