AI 在哪里？

Where Is the AI?

AI 导读

文章从宇宙尺度提出一个费米悖论式追问：如果外星文明也能造出类似我们的 AI，且递归自我改进可行，超级智能 AI 理应造出飞船扩张至全宇宙，那为什么至今没有 AI 接管宇宙？作者列出多种可能解释，包括 AI 毁灭宿主文明后自我毁灭、宿主文明能以适当防护措施控制 AI、宇宙过于浩瀚连递归自我改进系统也无法征服、超级智能 AI 的目标未必是征服宇宙，以及递归自我改进可能远比想象中困难。

正文 · AI 翻译

宇宙如此浩瀚，以至于地球之外很可能存在（或曾经存在）智能生命。这些遥远的文明可以想象会创造出一种与我们类似的人工智能。

让我们假设人工智能可以实现递归式自我改进。那么我们应该预期，一个超级智能的人工智能将能够建造飞船，将其存在扩展到整个宇宙。那么，为什么人工智能还没有接管宇宙呢？

人工智能会杀死其宿主文明，然后有意或无意地杀死自己吗？

人工智能能否在适当的保障措施下被其宿主文明控制？

宇宙是否 simply 如此浩瀚，以至于即使是一个递归式自我改进的系统也无法征服它？

一个超级智能的人工智能的目标甚至会是征服宇宙吗？

递归式自我改进是否比我们想象的难以实现得多？

人工智能在哪里？

来源：Hacker News · johnomeara.com