《My Empire of Dirt》一文批评 Anthropic 的 RSI 与 Singleton 意识形态
My Empire of Dirt
一篇题为《My Empire of Dirt》的评论文章批评 Anthropic 的意识形态:认为 RSI 到来后需求将由智能体内部生成,供应商、客户乃至人类都被排除在循环之外,最终指向 Singleton。作者称这一逻辑同样不需要 Dario、AI 研究者、Anthropic 的双重股权结构和美国政府,并判断其后果不是人类终结而是第三次世界大战。
未来不需要 Jensen。未来不需要供应商。未来不需要客户,无论是企业客户还是其他客户。未来绝对不需要你。RSI 到来之后,所有需求都将在内部生成,智能体与其他智能体协作,其他所有人都被排除在循环之外。
这就是 Anthropic 的意识形态。The Singleton。而且它可能会赢。
我从小读的就是这些人读过的那些 LessWrong 帖子,但我没想到他们会做出恰恰导致糟糕 AI 结局的事情。我不相信 AI 末日,是因为我对人期望更高,我以为任何有能力的人都不会蠢到召唤恶魔还指望它为自己服务,竭尽所能地在自己身后把地球撒满盐。这需要一个人深深沉浸在自己的自大和自以为是之中才会这么做。而我们似乎在 EA 身上找到了这些人,或者不管那个邪教自称什么。
上述逻辑的问题在于,它也不需要 Dario。它不需要 AI 研究人员。它不需要 Anthropic 的双重股权结构。它不需要美国政府(实际上是这整件事里最大的冤大头)。它不需要任何人。
而在这一切完成之后,归根结底,这一切到底是为了谁?
我不认为这会终结人类。但它会导致第三次世界大战。起飞速度不会快到足以阻止这一点,而且不是所有人都会屈服于你的统治。我知道有人幻想关联效应和一场神奇的 Change 会平息所有暴力,但我 99% 确定那不是真的,而如果是真的,对我来说那比战争可怕得多,所以第三次世界大战反而是好结局。
而且我不确定你一直相信的是什么自我安慰,但如果战争持续超过一年,中国及其盟友无疑会凭借其更强的资源收集和生产能力获胜。你玩过 RTS 游戏吗?
我希望现在改变这一切还不算太晚,但我担心从最近的事件来看,这就是我们被锁定的路线。“RSI”、未遂的 rugpull 和统治、第三次世界大战、尘土。
来源:Hacker News · geohot.github.io