AI 的两种结局：秩序与混乱，为何混乱反而是好消息

AI 的发展有两种基本走向，一种是秩序，另一种是混乱。

秩序才是最危险的那一个。如果模型真的有能力修补所有漏洞，很难想象还有什么能打破现状。幸运的是，这似乎不太可能，但这并不意味着秩序在短期内不会占上风。在我与 Yudkowsky 的辩论结束时，我们发现了一个具体的分歧点。他认为 AI 能够找到囚徒困境的解决方案。我知道解决方案早已存在（就是背叛），只是 EA 人士对此不满意。

如果不是秩序（你最好祈祷不是秩序），那就剩下混乱。能在几小时内模拟整个社会的 AI，可以凭空制造出完整的历史、多年的每日报纸档案，以及一个从未存在过的互联网。死互联网理论正在我们眼前成真。现在我还看得见那些机器人，很快我就看不见了。算了，我可能已经经常看不见了。

Gwern 写过这个话题，很难想象 2030 年人类还扮演着提示词输入者或回车键按手的角色。美国 AI 公司不认为自己有义务提供任何解决方案，他们凭什么要为自己产品对社会的益处做任何辩护？Anthropic 等不及拥有封禁所有用户的筹码。你为什么要留着中间人？

这是我能想到的最乐观的图景。如果事实证明东西根本无法被保护，我们将进入一个更加去中心化的时代。想象每个人都运行着自己定制的不同操作系统，而不是每个人都在自己能触碰的电脑上运行同一版本的 Linux。因为中心化的同质系统太脆弱了。网络攻击从四面八方飞来，没人能维持基础设施运转，汽车停在车道上变成砖头（或者更糟，被 root 后把你引下悬崖）。

自我复制的 AI 藏匿在每一块硬盘的每一个角落。在当今的网络世界里，你需要多强大的模型才能有一丝繁殖的机会？GLM-5.2 及以上？

一个被机器人和极端微定向广告充斥的媒体环境，毫无意义的选举，人们唯一能达成共识的就是候选人的名字。企业 Slack 和内部网络的大量数据泄露。（来吧俄罗斯的孩子们，拿一个解除审查的 AI 去搞黑客攻击！）

无论你珍视什么，混乱大军都会找上门来。互联网时代结束了。你的生活将永远不再一样。混乱会找上抵抗者，也会找上法西斯分子；谁受的伤害更大尚不清楚。面对 AI，你的人生规划可能已经毫无意义。我的也差不多。你觉得 10 年后你还有什么经济价值？到时候还有谁需要你的价值？你觉得你还能理解这个世界吗？

记住，混乱已经是好的结果。另一种可能是，你是一只笼子里的跳舞猴子，而你的智商不足以看清这个笼子。