跳到正文
Hacker News· barry-cotter·· 7 小时前AI 评分22

奇点之后,我们不会“就一起玩玩”

We Won't "Just Hang Out"

AI 导读

针对“奇点之后人类就一起玩玩”的流行设想,有观点认为这一设想不成立:廉价超级智能让工作与教育失去意义,AI 也让开源社区等基于共同实践的社交场景消失,人们不再需要彼此。同时,AI 生成的超刺激内容让独处比社交更有吸引力,而缺乏奋斗经历的一代人将难以形成值得交往的个性。作者还指出,若实现激进延寿,奇点前的社交网络会因疏远、退出社会或死亡而不断损耗且无法补充。

正文 · AI 翻译

奇点之后我们会做什么?标准答案是:“我们就随便玩玩”。就像《文化》系列小说里那样,无限假期。我认为这行不通。“随便玩玩”意味着:

  1. 其他人存在。
  2. 他们想和你一起玩。
  3. 你想和他们一起玩。

而那个后稀缺、无限假期的 AI 乌托邦,恰恰瓦解了所有这些前提。

其他人存在

人们聚在一起、建立关系的社会过程将会消失。工作,显然,在廉价超人类智能的世界里毫无意义。大学(实际上是所有超出教人说话的教育)将毫无意义,因为无事可做,也因为积累人力资本不会改变你的人生结果:无论你是文盲还是博士,你拿到的 UBI 都一样。

我通过写开源代码、参与软件工程师社区认识了很多朋友。AI 正在瓦解这个社区,因为它让人类的贡献变得多余。如果我起步时 Claude Code 就已经存在,没人会在意 Austral 或我的其他开源项目或我的技术博客文章。

十几岁时我试着安装 Linux,遇到各种问题,就上 IRC 聊天室求助。在这个过程中我交到了朋友。今天,我只会问 Claude。AI 让所有人去中介化,以至于我们不再需要彼此。我仍然有朋友,但我靠的是 AI 时代之前通过实践社区认识的朋友存量。年轻人没有这种特权。

在一个没有工作的世界里,城市到底还有什么意义?如果无事可做,就没有必要在地理上把人聚在一起。

他们想和你一起玩

“出去玩”的替代选项(BATNA)越来越好、越来越便宜、越来越方便。当人们的感官变成 AI 生成的超级刺激的无限消防水管时,他们为什么还要和任何人出去玩?

这与其说是关于 AI,不如说是关于消费科技的轨迹,因为很多人已经这样生活了:他们去上班,刷 TikTok。下班后,他们还是刷 TikTok。

你想和他们一起玩

正如 Gregory Conti 所解释的:

[在] ASI 之下,这种无尽的闲暇将在日渐萎缩、令人厌倦的陪伴中度过,因为我们将缺乏那种产生有趣人格的挣扎与奋斗的经历。我们的心智将会萎缩。我们将没有什么值得彼此交谈的东西。

AI 乌托邦里的人将没有技能、没有教育、没有成就。如果他们还能识字,我们就该庆幸了。他们不值得交谈,你也不会想和他们出去玩。

也许你和我可以和现有的朋友出去玩。但稍微迭代一下。下一代呢?当建立那些关系的社会过程都已成为过去,他们该如何建立有意义的关系?

如果我们获得激进的寿命延长,长期来看还有 attrition(损耗)问题:人们会渐行渐远,退出社会进入体验机器,死于事故,或因无聊而结束生命。所以你的社交网络可能是一种不可再生资源,随着你奇点前的关系损耗而随时间耗尽,并且由于上述原因无法补充。

来源:Hacker News · borretti.me