AI 是资本主义的终极归宿？

凶兆正猛烈地倾泻而下。思考或沉沦。服从或死亡。抬头看，否则被遗弃。于是，伴随着这些并不温和的威胁，人工智能时代——真正的白痴、真正的超级白痴、递归滚雪球式的白痴——已然降临。哎呀，我在这个开头段落里已经用了两个破折号。正如他们所说，这就是一个破绽。所以，也许这篇文章根本不是我写的。你得用一个人工智能应用来检查它是否真的是人工智能写的，以及我究竟是真的、不是真的，还是只有一部分是我。你不能再凭直觉了。你必须使用应用。既然人工智能拥有了破折号，未来世代会如何看待艾米莉·狄金森和她对破折号的热爱？她也被喂给机器了吗？他们会因此少爱她一些吗？我们正在被逐渐锁在语言之外吗？这还重要吗？

出于更多与作家自尊而非信仰有关的理由，我一直被《圣约翰福音》的开篇诗句深深吸引：“太初有道，道与神同在，道就是神。”我相信这是真的。我相信，破坏和削弱人类与语言之间的根本关系，将侵蚀一切社会凝聚力的表象。

人工智能闯入了文学世界，让作家、出版商、文学经纪人、读者、评论家、教师和学生都感到脚下的地面正在塌陷。教授们现在必须以不信任的眼光看待学生的作业。出版商必须像侦探勘察潜在犯罪现场一样评估新作家。很难描述这对阅读或学习造成了什么影响。智力投入的乐趣与挑战已被某种封闭、阴郁而机械的东西所取代。一个动物标本剥制师的香格里拉，那里曾经活着的一切都被剥皮并填充，用明亮而虚假的眼睛意味深长地闪烁着，一眨不眨地注视着你。这就像看着一个人，怀疑他是否真的是你以为的那个人。或者照镜子，看到自己的模样，却知道那并不是真正的你。

假以时日，我们可能也会丧失这种认知。那时我们将不再知道自己是谁，甚至不知道我们是否存在。

当这种情况发生在一个整个社会、整个物种身上，当我们不再能依赖几个世纪以来习得、代代相传的直觉，当我们不再能信任自己的心、眼睛或耳朵，当我们不再能分辨真假或虚拟与现实，当时间崩塌、过去现在未来彼此冲撞，当百万种语言和文化被搅成糊状，当一份古老的社会契约——无论其有何局限与缺陷——被砸得面目全非，我们是否正在把自己引向集体精神病？

这种思路可能会让我被指责为落入了面对新事物和不可理解之物时不可避免的道德恐慌——那种先于工业革命或计算机到来的恐慌。问题是：仅此而已吗？我们只是正在经历人类“进步”演化中一个令人不适的过渡时刻？还是这确实是一次灾难性的断裂？

也许我们应该听听那些正在构建这项辉煌新技术的人怎么说。上个月，Anthropic的一名年轻员工雅各布·考克森（Jacob Coxon）辞职了，他说自己的良心不允许他参与一个可能毁灭人类的项目。他描绘的工作场所大致就是打了兴奋剂的曼哈顿计划。但正如我们所知，这一次，科学家们的动机在很大程度上是利润和“抢先到达”的竞赛。考克森辞职之后发生的事情令人困惑。最大的AI公司的CEO们争先恐后地讨论、反驳或赞同这位揭露他们的举报人。我们的屏幕上充斥着那些亿万富翁寡头的视频，他们用阴郁、低沉的口吻告诉我们，他们正在献祭的机器之神很有可能终结人类文明。

在确立了对我们物种的宗主权之后，他们向我们保证正在尽力降低风险。他们恳请政府监管。他们的呼救暗示着某种病态。这里面有点怪怪的——一种《捆着我！绑着我！》的氛围。是这样，还是资本主义的本性使然？面对无拘无束的贪婪时的无助？

这些寡头似乎确实相信他们的灭绝叙事——至少足以让它们在地球尽头建造装满水、食物和弹药的掩体。但灭绝并不是他们向我们其他人推销的东西。（唐纳德·特朗普和科技自由意志主义者公开称其为骗局。）进步、荣耀和人类福祉才是他们推销话术的精髓。其中一位，Palantir的彼得·蒂尔（Peter Thiel），甚至更进一步，将批评者和呼吁监管的人称为“反基督者”，说他们在勾引魔鬼——这等于默认赋予了他的公司及其抱负以神性。（没错，就是同一个人，当被问及是否相信人类应该存续时，著名地回答“嗯……”然后结结巴巴、含糊其辞。）

噼啪声和爆裂声最终沿着科技内部人士熟悉的断层线平息下来——末日论者、加速主义者、怀疑论者。但当其他声音就AI行业正在造成的真实、灾难性的持续损害发声时，他们被刻意忽视和排斥。

有趣的是，寡头们对雅各布·考克森似乎比对其他一些举报人宽容得多。他们没有团结起来为梅雷迪思·惠特克（Meredith Whittaker）辩护，她现任Signal基金会主席，2019年从谷歌辞职，此前她公开批评谷歌为美国无人机建造机器视觉技术的合同。七年后，AI行业与武器行业之间的这种结合已展现在所有人面前。（参见2月美国对伊朗南部米纳布一所女子学校的双击袭击，造成156人死亡，其中包括120名学童。没有人道歉，因为没有人干的。机器策划的谋杀没有负罪感。以色列在加沙对哈马斯武装分子进行暗杀行动背后的AI系统Lavender、Gospel和Where's Daddy?也是如此，根据人权报告，在这些系统中，定位和追踪系统的基本目标单位是家庭住宅。）

当Timnit Gebru——硅谷极少数担任高级技术职位的黑人女性之一——在2020年因拒绝撤下一篇她参与合著的研究论文而被谷歌解雇时，并没有出现寡头们群起支持的声浪。那篇论文揭露了训练大型语言模型（LLM）——包括谷歌的模型——的环境成本，并展示了这些模型如何放大和复制它们全盘吞下的数据集中的白人至上主义和厌女症。她警告说，随着模型规模扩大、变得更难审计，这些病症只会被进一步放大。她的发现得到了另一位研究员Abeba Birhane的支持，后者参与合著了一篇题为《论数据沼泽的仇恨缩放定律》的论文。

为什么惠特克和格布鲁以及她们那些非常具体的控诉，会比全面灭绝的预言家——比如从AI科学家转变为批评者的杰弗里·辛顿，或者雅各布·考克森——更让寡头们担忧？也许是因为，就像一场盛大的烟花表演，辛顿和考克森的警告为这种氛围增添了刺激感。他们最终反而助长了寡头们的权力博弈，而一旦他们的公司上市——它们即将上市——这将对他们极为有利。他们的估值将取决于其模型有多精密——而在AI武器系统的情况下，有多致命。

这些声称掌握着人类生杀大权的亿万富翁是谁？他们给人的印象是，他们已经把自己从人类这个物种、从这个我们称之为家的星球上除名了。他们是萨提尔吗？半人半机器？我们不妨称他们为独眼巨人——英文复数“Cyclopes”。就是希腊和罗马神话中那些巨大的、独眼的、穴居的牧羊人。（在21世纪，他们的洞穴富丽堂皇，他们的羊群就是人类。）

把他们想象成一个单一的实体。一个突变体。独眼巨人有一个头，额头正中偏右嵌着一只苍白、不眨的眼睛，用它那带着黄疸的目光俯视普通人类，看到的只是矿工在矿产丰富的森林中看到的东西，或者筑坝者在奔腾的大河中看到的东西。一种可供开采、积累并投放市场的资源。去他妈的森林。去他妈的河流。去他妈的人类。

但与我们最近在电影银幕上看到的那个沉默、笨拙的独眼巨人不同，独眼巨人在颈部处分叉成好几个争吵不休的身体，给人一种它们彼此不和的印象，但当末日来临——或者更准确地说，借用娜奥米·克莱因和阿斯特拉·泰勒那本精彩新书的书名，末日法西斯主义——它们显然相处得很好。

独眼巨人的灭绝狂欢在许多行业观察者看来，像是一出精心安排的戏码，目的是让日益愤怒、焦躁的公众相信，AI公司对美国经济、对其人民的安全与未来有多么核心、重要、不可削减、不可逆转。

要求被监管，是一种试图将整个行业嫁接到国家之上的尝试，是为了消除政府与这些企业之间最后一丝缝隙。寡头们的希望是，这种监管上的拥抱能给他们带来他们急需的空白支票。因为他们所需的资金、土地、水和能源规模，只有政府才能提供。说得直白些，他们真正想要的是政府允许他们自我监管。在不放弃控制权的情况下获得合法性。

这种微妙的手法必须像歌舞伎表演一样来执行。它需要一个反派、一个吓唬人的妖怪，来恐吓日益躁动不安的公众，以及任何可能不像特朗普政府那样顺从的新政府。

于是，中国登场了。

为了保护美国免受崛起的中国的威胁，Cyclopes向美国政府提供了一系列其他国家做梦也想不到的致命自主武器系统，以及实验室培育病毒和科学迄今未知的生物武器的幻想。为了在国内遏制和驯服不安分的人口，它向美国和其他友好政府提供监控和面部识别系统，承诺让以色列的Pegasus间谍软件看起来像个玩具。作为回报，它要求不受阻碍的资本流动，以及承诺提供为其庞大数据中心和超级计算机服务所需的尽可能多的土地、水和能源。

翻译成直白的话，大致是这样的：我们会把自己营销为人类启蒙的最前沿，以及无国界的人类知识的管理者和分配者。但实际上，我们将是地图形状的。我们会把自己与我们的国家、其经济、其情报网络和其安全机构融合在一起，直到你无法将我们与你自身区分开来。除了我们的银行余额。作为交换，你可以假装监管我们，直到我们实现殖民月球和外太空的使命。没有边界，没有恐惧。然后我们会踢开你如此好心借给我们的梯子。我们甚至不需要取代你。你干脆就不存在了。我们将管理你的人民、你的城市、你的通信、你的金融系统、你的法院、你的军队和你的警察。如果不是我们，那就是中国来管理你。

美国主要AI公司的这些呼吁政府监管的请求，也有助于排除较小参与者的竞争，这样当关于AI的国际条约签署时（它们必须签署），只有它们——少数几家“受监管”的公司——才有资格参与角逐。

公司与国家的合并已经在进行中。AI科学或许是新的。但它被强加给我们的方式却和殖民主义本身一样古老。在印度，我们有一段被一家公司殖民的历史。是的，我们的统治阶级邀请他们进来，正如美国的统治者现在所做的那样。东印度公司最终被英国王室接管。现在，当然，情况反过来了。印度的大部分基础设施由两大企业集团拥有，阿达尼集团和信实集团，两者都准备跳入AI的海洋。

Cyclopes正准备接管美国政府。这是Palantir的CEO亚历克斯·卡普的话：“我认为Palantir、美国和世界面临的核心风险是一种倒退的思维方式，它正在腐蚀和侵蚀我们的机构。”他对那些暗示Palantir被高估的分析师感到恼火。（我的意思是，你怎么能妄自“评估”一个神？）他接着用那种标志性的、酷炫的、富家子弟式的幽默说：“我喜欢这个主意：弄一架无人机，让掺了芬太尼的淡色尿液喷洒在那些试图坑我们的分析师身上。”

而这，众所周知，是山姆·奥特曼，如今在Open AI，他一边承认AI可能正将人类引向通往地狱的捷径：“……但与此同时，将会诞生一些拥有严肃机器学习技术的伟大公司”。或者这个呢，来自马克·安德森——这位超级加速主义者与特朗普超级合拍，似乎也拥有同样超高的智商？“技术必须是对未知力量的一场猛烈攻击，迫使它们向人类屈服……我们不是受害者；我们是征服者。”

人们不得不面对几种不同版本的末日及其随之而来的苦难。有可怕的灭绝叙事。有我们被一个比我们更聪明的物种所征服的版本。（要理解这一后果，想想我们对自己共享这个星球的其他物种做了什么；那会让灭绝显得相当有吸引力。）

然后还有来自非技术人类世界的忧虑——气候活动家对AI产业的碳足迹感到痛心；学生和工人看到大规模失业和空白的未来；艺术家、音乐家和作家，像我一样，能感觉到那种离心式的搅动正从我们体内吸走跳动的心脏，并将社会控制的钢丝拧成一只紧握的机械拳头。

我们该如何回应？呼吁监管？你如何管束一个让弗朗西斯·福特·科波拉的《现代启示录》——包括其中的种族主义套路——看起来像时事纪录片的行业？

独眼巨人是库尔茨上校，一位被战争残酷逼疯的年迈前海军陆战队员，他在黑暗之心（从康拉德的非洲移植到科波拉的越南）统治着他那疯狂、血腥、毒品泛滥的帝国及其土著臣民。美国陆军最高指挥部给被派去终结这位同袍叛乱的年轻军官的指令毫不含糊：“以极端偏见终止。”

我们的口号应该是什么？以极端偏见监管？也许吧。尽管我老实说不知道那意味着什么，或看起来像什么。

感觉有点像2004年海啸前的那一刻。还记得在泰国和印度尼西亚，海水如何从海岸线退去吗？人们跑出去惊叹于突然出现的数英里原始新海滩，却没有意识到，在远海，一堵水墙正在积聚，即将向他们倾泻而下。我们现在就处在那一刻。一堵高耸的愚蠢之墙即将淹没我们。

闪耀沙滩上那串诱人的面包屑正把我们越来越深地引入海洋。它揭示出神奇的宝藏、镶满珠宝的贝壳和秘密城堡，承诺着永恒的蜜月——或者叫“金钱月”，如果你更喜欢这么说的话。捡起那些贝壳，惊叹它们能为你做些什么吧。它们有个难听的名字叫“消费级应用”。它们可以成为你的母亲、爱人、心理治疗师、医生。它们能在一分钟内为你写出小说，风格随你挑选，还能翻译成任何你想要的语言。它们能剪辑你的电影、谱写你的音乐、做你的研究、起草你的法律文件。它们在医学领域所能做到的堪称奇迹。（但这并不能阻止穷人继续死于霍乱、疟疾和肺结核，或者干脆死于饥饿与贫困。）它们还承诺通过你的手机为你即时送达正义、教育和民主。如果你反其道而行，它们还能改进你的纳粹礼，并用一把精神电锯武装你。有什么理由不爱呢？你怎么能抗拒这一切？又为什么应该抗拒？

说了这么多关于AI和威权主义的话，难道不是真的吗——我们一些最优秀、最受爱戴的反法西斯YouTuber和不懈的活动家（在印度肯定如此），加起来拥有数千万订阅者，却是AI的忠实拥护者？又或者，那场如甘霖降于焦土般落在我们身上的、Z世代“蟑螂”反抗莫迪政府的起义，不正是乘着最令人愉悦、最不恭不敬的AI视频滚滚而来的吗？

确实如此。

但当威胁评估显示出真实危险时，那扇窗口可以在一瞬间被砰然关上。就在我写下这些文字时，正值德里所谓的“蟑螂抗议第二季”，我家附近的互联网已被切断。在克什米尔和曼尼普尔等邦的其他抗议期间，印度政府下令实施的互联网断网持续了数月之久。

独眼巨人正用他毫无血色的双臂托举着尚在襁褓中的机器之神，邀请我们向他俯首膜拜。信任他，把你的一切都交给他，作为回报，他会给你他的花里胡哨。

殖民总是带着闪亮的礼物而来。但AI是一种我们中很少有人能想象的殖民。它是资本主义的终极归宿。

独眼巨人从不羞于把不该说的心里话大声说出来。

这里再次请出Palantir董事长彼得·蒂尔：“最初的创始愿景是，我们要用技术改变整个世界，颠覆世界的货币体系……我们永远赢不了选举……因为我们属于如此微小的少数派。但也许你可以真正单方面地改变世界，而不必不断地说服人们、乞求人们、恳求那些永远不会同意你的人。”

还有以色列科技公司Cato Networks的CEO什洛莫·克莱默：“是时候限制第一修正案以保护它了……我们需要控制平台，所有社交平台。我们需要对每个在网上表达自我的人的真实性进行排名，并基于这一排名控制他们所说的话。”

这种特权，这种财富，这种权力，这种狂妄，不是上帝赐予他们的。它是从我们手中夺走的。

为了训练它的机器之神，Cyclopes需要露天开采并囤积人类文明所取得的一切成就。它想要将累积的成果——我们数百万人数千年共同劳动的果实，包括文学、艺术、音乐、数学、国际象棋、学术研究——一切——大规模转移为公司的资产。它将把这些知识存入银行，找到控制、净化、政治化它们的方法，并决定谁可以访问、谁不可以。代价是什么？我们不妨称之为对人类努力历史、对文明本身的私有化和公司化。你所要做的，就是允许你的灵魂被数字化并转化为数据。你剩下的将是人类污泥和浆液。工业废水。

又是山姆·奥特曼：“我们看到的未来是，智能是一种公用事业，就像电力或水，人们按表向我们购买。”

但这真的归他们出售吗？

我是数十万作者中的一员，Anthropic未经许可使用我们的书来训练其LLM。作为集体诉讼的结果，我收到一份通知，提出以每本书几千美元作为和解金。这些书耗费了我一生的生活阅历和数年的写作。通知说，该公司从两个托管盗版PDF的网站下载了这些书，但“Anthropic否认做错了任何事”。它给了我一个索赔编号和一个PIN码。这就像在我不知情的情况下摘取我身体的器官。既然机器已经用我的作品训练过了，我担心很快，当我写作时——像我自己那样——用一种我努力数十年才使其独一无二的语言，我会被告知它听起来不像我的作品。它实际上是AI。我余生该怎么办？避开我自己的写作方式？寻找一种新语言？我们该把这称为什么？心脏采矿？大脑采矿？生命采矿？

在她犀利如匕首的著作《AI帝国》中，凯伦·郝描述了正在进行的、对土地和资源的全面掠夺，以及贫困国家的工人被强征以饥饿工资劳动，成为“数据捕获者”，以维持Cyclopes的梦想。由于不太可能有足够的水或电力来满足其公司及其1000亿美元超级计算机的巨大能源需求，Cyclopes正在积极游说建设私人核电站并撤销安全协议。作为后备，数十亿美元正被投入开发不可耗尽的聚变能源，以便数据中心可以搬到外太空或月球上。

与此同时，在亲爱的、破旧的古老地球上，印度政府已站出来欢迎建立更多耗能数据中心。仅维沙卡帕特南就有六个，包括一个耗资150亿美元的谷歌中心。它们几乎在零环境监管下获得批准，仿佛它们只是建筑、仓库。这是印度和美国之间的老传统——把你的垃圾、你的有毒产业、你的毒酒杯给我们。我们会珍惜它。就像在美国一样，印度的活动人士正在以身试险，阻止拟建的“仓库”附近数万人的水和空气被毒化。

美国反数据中心活动人士正被置于对立面，与那些因建造这些巨型设施而获得工作的建筑工人针锋相对。这些为当地社区而战的活动人士，被贴上外国资助的叛徒、恐怖分子或左翼极端分子的标签，被指从爱国的美国公司雇佣的正派、勤劳的美国人手中抢走工作。这样挑动人们互相对立，是一种老掉牙的伎俩，陈旧得如同正午的腐尸般恶臭。在我来自的印度南部喀拉拉邦，看着这一幕上演，让我明白：凡事只用“左”或“右”这种两极化的棱镜去看，并不总是有用。

这里有个小故事，在时间和空间上都很遥远，但至今仍有借鉴意义。

20世纪50年代末，喀拉拉邦首个经民主选举产生的共产党政府做的头几件事之一，就是邀请一家大公司在邦北部建一座人造丝工厂，厂址位于卡利卡特市上游的查利亚尔河畔。这位实业家承诺，工厂将创造3000个就业岗位，作为回报，要求政府补贴原材料、电力和水。工厂以每吨一卢比的价格获得附近森林的竹子，而竹工——大多是原住民——却得花一卢比买一根竹竿。

工厂投产后，一天的用水量超过整个卡利卡特市，然后把有毒废水直接排回河中。下游的城市水源被污染。鱼死了。数千渔民失去生计。当可用的竹子被耗尽后，他们开始使用桉树。成片茂密的原始森林被皆伐，改种单一桉树种植园。数千名森林居民、竹子和藤条工人失去生计。但那3000名工厂工人组织起工会，日子过得红火。

直到后来，有毒的工厂烟雾开始让工人中爆发癌症和呼吸系统疾病。他们罢工要求赔偿。实业家建了一所（私立）癌症医院。好斗的工厂工人静坐、闭厂，要求加薪和其他福利。他们为自己赢得了微小而渐进的胜利，然后回去上班。

几年后，桉树种植园也消失了。工厂倒闭。拥有体面工会工作的工人绝食抗议，要求重开工厂。工厂再也没开过。

对世界各地的“数据采集者”劳动力来说，这也是一个两难困境——几乎是一种生存挑战。

印度人口庞大，对独眼巨人般贪得无厌的胃口来说，是一场数据盛宴。最贫困的人，住在偏远村庄和小镇，正被征召去提供一切可被挖掘的信息。建筑工地和工厂车间里的工人被要求头戴摄像头工作，好让人工智能蚕食他们的动作，训练出很快将取代他们的机器人。工人们知道自己在自掘坟墓，却无法拒绝，因为大批人正等着接替他们。一旦他们的工作消失，世界将如何处置这数百万“过剩人口”——法西斯给那些消耗地球有限资源却不贡献社会的人的分类？法西斯分子对此早有他们自己的种族灭绝式想法。

Cyclopes——或者如 Gil Durán 在其同名著作中所称的 Nerd Reich——有时也曾试探过另一条道路。它以一种时断时续的方式玩弄着全民基本收入（UBI）的想法。用的是别人的钱。不是它自己的。这有多酷、多反资本主义？也许它应该试着靠每月的 UBI 付款养活自己几年。也许这应该是“以极端偏见进行监管”计划的第一步。

让我们把这一点记录在案：如果财富分配得更均匀，世界上的每个人今天，就在此刻，都能获得全民基本收入。你不需要为此毁灭地球。顺便问一句，谁来发放 UBI？谁来判定谁有资格、谁没有？只是问问。也许，顺着 Shlomo Kramer 同志的主题进一步发挥，人们可以按照种族、种姓、宗教、性别、政治观点和服从商数来进行排名？

又或者印度政府可以搭把手。在其最近对全国选民名册进行的特别密集修订中，1.3 亿人被删除。几乎占总人口的十分之一。好大一块。一种文明的剔除方式。他们将没有资格获得 UBI，或者根本没有任何权利。在阿萨姆邦等地，其中一些人被雇为建筑工人，去建造那些旨在收容像他们自己这样的人的大型拘留中心。一个政府挑选它的人民。Cyclopes 控制着政府。真妙。

然后是那种善意的民主社会主义版本。Bernie Sanders 希望公众——至少是北美公众——直接拥有 AI 公司。他建议对最大的 AI 公司的股票一次性征收 50% 的税，以创建一个拥有独立监督的主权财富基金。该基金显然将价值近 7 万亿美元，每年将从中向美国公民直接支付数千亿美元，并用于医疗、住房和教育项目。（再说一次，这些数万亿已经存在。缺的是政治意愿。会有什么改变呢？）但即便在这种民主社会主义方案中，数据仍将从南方——印度、非洲、南美洲——被抽走，而利润则留在北方。

当然，公司应该为数据付费。但事情已经走到这一步了吗？获得末日中的股份，现在竟是我们唯一的选择吗？

尽管关于 AI 能为人类做什么、不能做什么有如此多的争论，但关于它正在对人类做什么的讨论却太少。研究已警告 AI 与人类认知衰退之间存在关联。人类智力似乎注定要随着人工智能的崛起而成比例地暴跌。也许我们闲置不用的大脑会萎缩，我们的头会缩小，我们的手指会变成起伏摆动的提示触手。

我们这些已经在另一种世界中度过一生的人知道我们正在失去什么。但即将成年的那一代人呢？它会有自己的语言、自己的思想、自己的悲伤吗？它会有奋斗的权利吗？跌倒的权利？失败的权利？不完美的权利？它会体验到解出一道数学方程，或创作出自己的艺术、文学或音乐——无论多么有缺陷——那种不可能的痛苦和狂喜的快乐吗？

人工智能的胜利将是对人性的犯罪。它将把我们的头脑泡在福尔马林里。它将摧毁我们所熟知的世界。那些推动它并从中获利的人对此心知肚明，并且已经做好了逃往另一个领域的安排。

寡头们正大声而自豪地宣布战线：这是我们对他们。他们毫不畏缩地暗示，为了让独眼巨人繁荣，人类可能必须死去。正在奋起反抗的年轻一代明白这一点。我知道，在这篇文章的前面，我曾建议我们应该“以极端偏见进行监管”。但我真正想对那些人工智能公司说的是：以极端偏见终止它们。

本文的一部分将于10月19日在纽约市的人民人工智能大会上作为演讲发表。