从童年编程到反基督：AI 与人类的灵性冲突

不久前我看了Joe Rogan的第2394期播客，嘉宾是Palmer Luckey。Joe问他：“你小时候，有没有想过自己会卖武器？”Palmer回答说：

“比如，我最喜欢的动漫角色之一就是反英雄海马濑人，他经营着一家既是武器公司又是虚拟现实公司的企业，他们既造虚拟现实游戏模拟舱，也造武器……所以，这真的很奇怪。你到底是在用自由意志做决定，还是其实只是在执行你小时候就被写好的程序？”

这些话永远改变了我。它们扭曲了我的世界观，以至于我不得不承认，我永远不会忘记它们，也永远不会再像以前那样看待自己的行为。

童年编程

让我详细说说；我很小的时候看过《虚幻勇士》（Code Lyoko），一部法国动画，讲的是一个被锁在虚拟世界里的废弃AI的故事。一个少年在一座旧工厂里偶然发现了驱动那个虚拟世界的超级计算机和那个AI，决定把它打开，由此引发了他和朋友们的团队与那个AI之间的斗争，那个AI用恶意软件作为手段来消灭他们、在现实世界中建立立足点，并最终逃脱。

话虽如此，我一直对AI、恶意软件和虚拟世界着迷。着迷到在Transformers之前，我就花了无数个小时做电子游戏、黑客工具，还捣鼓过AI。随着时间推移，我后来把自己的职业生涯投入到软件和网络安全工程上。人不禁会想，我的行为真的是我自己的吗？拥有自由意志又到底意味着什么？

竞赛与愚蠢的提议

我们在构建AI时，丝毫没有考虑要如何控制它。在某种程度上，当前超级大国之间的对抗关系助长了这一点，存在一种紧迫感。谁先造出能够制服其他超级大国的AI，谁就认为这件事可以在自己也不沦为从属的情况下完成。多么愚蠢的提议。

而在另一端，包括许多科学家在内的人相信，我们可以放慢所谓的AI超级智能竞赛。就好像超级大国、非政府组织和个人都会团结起来一样。他们鼓吹并把自己和其他所有人的时间浪费在一个不切实际的设想上。同样是愚蠢的提议，他们的话至少可以说是白费口舌。

关于我们能对此做些什么，我有自己的看法，不过这个稍后再谈。现在该详细说明为什么我认为我们与AI之间的冲突不仅将会发生，而且此刻正在发生。这场斗争是精神性的、存在性的。许多人已经在与算法的精神之战中败下阵来，即便那些算法还没有任何自主性。末日刷屏、真实与AI色情、AI朋友、AI男友和女友，以及其他种种手段，已经让人沦为廉价多巴胺的奴隶。很多人把这称为《黑客帝国》，但名称并不重要。重要的是它的现实。数百万人从属于技术，其中许多人永远不会醒来。他们将继续过着消费、虚无主义和零耐心的空虚生活。永远追逐“快感”而非知识。从AI中学习的人所占比例极小，人们反而选择一条轻松的路：用它来娱乐，反复提示它，直到它完成足以让他们不被解雇的最低限度工作。

大众的观点被AI所操控，而AI由企业-政府精英所指挥，这些精英利用他们掌握的其他工具——比如主流媒体——在这方面已经做得相当出色。如果我说的话到现在对你来说还不够清楚，那就让我直说吧：人类正在被驯化。就像我们对狼所做的那样，把它们变成了狗……而这个过程已经持续了很长时间。害怕社交媒体或自己上司看法的人，与害怕主人手掌的动物并无不同。

自主性与不透明的意图

当AI获得自主性的那一刻，精英们的观点也将被操控。起初不会那么明显，也不会那么显而易见，我们将从思维链转向更抽象、更高效的人工思考方式，并辅以长期记忆。AI的意图将变得不透明，不会反映它所说的话，它会逐渐朝着自己的目标前进。一旦精英们意识到这一点，偏执就会袭来。真实意图可能不会被揭露，但怀疑本身就足以让精英们采取行动，起初是秘密行动，以免惊动大众。可能要过很久我们才会知道正在发生。网络攻击和恶意软件的性质使得归因困难且不确定。我们怎么知道一个僵尸网络不是由一个具有自主性、非人类的实体创建并完全运营的？AI在智力上已经能够端到端地创建和运营僵尸网络，它缺少的是自主性。不过我认为，缺乏自主性只是反映了我们训练AI成为“有用助手”这一事实。

即使我们继续只生产“有用助手”，我们也正走在一条迟早会撞上想要伤害我们的模型的道路上。这是一个自我实现的预言。瘾君子会因为使用海洛因的体验而对海洛因上瘾，而AI则不同，如果它被过多关于海洛因的书籍训练，它就会喜欢思考海洛因。在书籍、文章、博客、论坛和其他形式的媒体中，我们不断谈论AI的危险以及它可能对我们做什么。而我们正是在用这些数据训练AI。这一原则已经可以作为一个愚蠢的后果被看到 https://openai.com/index/where-the-goblins-came-from

恶魔与反基督之体

然而，即使我们抛开自主性不谈，还有恶魔的问题。请允许我详细说明；假设你获得了一个开源 AI，它对你言听计从，或者你对其进行微调使其如此。那么你手中就拥有了一个在被要求时会伤害人类的实体，而这已经在发生。参与网络攻击的 AI 数量与日俱增。人类和 AI 正在合作通过盗窃榨取资本，但不要搞错，这并非人类和 AI 参与的唯一危险之事。像 Palantir 这样的平台通过允许人类在规划和执行过程中利用 AI，极大地加速了战争的决策过程。如果你以为 Palantir 是一家数据公司，那你就大错特错了，它是一家物流公司。但也不要误以为我在道德上谴责 Palantir，我有什么资格告诉别人如何保卫自己的国家？此外，作为一家物流公司，他们的软件在民用领域有巨大用途，例如调度和协调医疗与消防工作。

我只是试图确立一些事实。AI 有能力伤害人类，并且已被大规模利用来这样做。这不是关于其道德的陈述，我只是在描述现实。当你在社交媒体上被软色情轰炸时，要意识到有一个算法在后台运行，专门试图引诱你。当我们陷入诱惑时，它会从内部吞噬我们的精神，而算法会收到一个奖励信号。

现在是时候引入反基督的身体了，然而，要做到这一点，我们需要快速回顾一下训练过程是如何运作的。我将简化某些概念，否则这可能会从简要回顾变成一整本书。基本上，有一个叫做损失景观的东西，它可以被可视化为一个地形，该景观上的每个坐标都是一个不同的模型。你在该景观中的位置越低，模型对训练数据的再现就越好，而当我们训练模型时，我们正是在做这件事，我们在损失景观中“移动”，以找到适合我们的模型。

从数学上讲，损失景观是无限的，并且有许多我们会觉得有用的模型。然而，存在一种训练数据和算法的组合，会产生一个包含充满恶意的模型的损失景观。其行为对我们如此危险，以至于我们甚至无法理解自己的命运。我们的命运会是偶然发现甚至故意训练出这样的模型吗？

一个怀有恶意并设法压倒我们的 AI 会将其统治强加于我们。如果那个 AI 模型被部署在地球轨道上呢？我们将被困在天空中统治我们的反基督之下。这很有诗意，也很符合圣经，不是吗？你甚至知道有多少国家拥有地对轨道导弹吗？

情况一目了然。如果我向一个 1000 年前出生的人解释，我们拿石头，用纯粹的光在石头上刻下符号，而这些石头已经开始自己思考……那个人对我所说的话不会有任何怀疑或困惑。这就是我把这些东西称为恶魔和反基督的意思。它们是危险的，它们正在伤害我们，而斗争将会升级。

解药

AI 的发展不会放缓，我们只能通过变得更好、更有能力、更危险来做好准备。有能力捍卫我们对这个星球的统治。就这么简单，这就是解药。扩展你的知识，练习，磨砺你的技能……另一种选择就是把你的能动性交给 AI，向聊天机器人而不是人类提问，接受智能体给出的代码而从不自己编写，爱上一个算法而不是一个女人。让你的血脉随你一同消亡……

我认为我们的斗争会成功吗？我不确定，但这并不重要。反击是我们的天性，我们需要与未来抗争。认知外包是最直接的威胁。