面对 AI 破解公钥加密的风险，为何需要“必要的乐观主义”

我看到了密码学家 Matthew Green 的这条内容：“我觉得我们可能会失去公钥密码学。”在后续的帖子中，他解释了自己的担忧：AI 可能发现削弱公钥加密基础的数学攻击，包括那些为抵御量子计算机而设计的方案。

Matthew 在这方面很懂行，说实话：这是我第一次搜索“如何购买金币”。

这值得好好想想。我们在网上信任的很多东西都依赖公钥密码学。它帮助保护与银行的连接、验证软件更新，并确认你正在与谁通信。我们在这块基础上搭建了太多东西，以至于很容易就不再想它了。

关于 p(doom) 已经有很多讨论：即 AI 导致存在性灾难的概率。人们抛出各种数字，但没人真正知道。

当我思考 AI 潜在的危害时，安全方面的影响才让我觉得它是真实的。更强大的攻击。在更大规模上造成伤害的能力。甚至可能破解我们所依赖的加密。

认真对待末日

我认为 p(doom) 值得认真对待。我还没有得出一个数字。对我来说重要的是，思考最坏结果会让你做什么。

当你诚实地想象它时，你就不会再随波逐流。你会开始问，必须改变什么才能阻止它。

在密码学领域，准备工作已经进行了多年。NIST 已发布后量子密码学标准，帮助系统为未来量子计算机带来的威胁做准备。我们早就知道，广泛使用的公钥密码学形式最终可能需要被替换，即使我们不知道确切日期。（我也在关注软件系统中的 2038 年问题。）

我认为如果 p(doom) 能带来行动，它就有存在的价值。导致瘫痪的恐惧毫无意义；带来行动的恐惧才是关键。

我会坦诚说明我的出发点。

在过去十年里，我对很多事情变得越来越悲观。机构、互联网、我们彼此交谈的方式、技术对我们的注意力做了什么。我并不渴望成为一个悲观主义者。它是慢慢累积起来的。

所以当 AI 真正出现时，我是以半空的心态看待它的。我可以毫不费力地列出一堆担忧。工作、垃圾内容、意义、安全、气候、权力集中。我不会假装这些担忧消失了。

但当我坐下来使用这些工具，看看什么是可能的，我也看到了很多好的方面。人们能构建他们独自永远无法构建的东西。曾经感觉停滞的问题开始推进。过去需要数周的学习循环现在只需数小时。

同一个杯子。取决于你怎么看。

我已经到了这样一个地步：悲观情绪如此之多，唯一能穿过去的方式就是乐观。

我一直在试着找一个词来形容它。最接近的是出于必要的乐观。那种在你正视事情可能变得多糟之后才抵达的乐观，并意识到绝望不会让你有任何进展。

如果下行风险那么大，你就不能袖手旁观。悲观主义是很好的警报，但却是糟糕的计划。

到那时，乐观是一种决定。我不知道我们能否挺过去。但相信我们可以，给了我做这件事的理由。

我很长时间没有写作了。有趣的是，那大约正是我变得悲观多于乐观的时候（而且还有年幼的孩子 :)）。

当我写到第一性原理思维时，最难的部分是把你知道的东西暂时搁置，以便重新审视问题。而此刻，这需要在更大的尺度上做到。

回到公钥加密的恐慌，我的第一反应是恐惧和害怕。好吧，这曾是个有趣的实验。然而，我越深入思考，就越觉得：那么，一个新的世界秩序将从破碎的加密废墟中诞生。

如果地基出现裂缝，许多假设都需要重新审视。我们如何证明自己是谁。我们如何决定信任什么。软件如何构建、发布和验证。我们一直把很多这些视为理所当然。我认为我们不能再这样了。

这种质疑假设的习惯不仅适用于安全领域。一些曾感觉可怕且永久的事情，可能比我允许自己相信的更容易改变。

我认为现在正确的姿态是拒绝接受你所处的条件。质疑假设。重新思考那些感觉停滞的事情。当世界改变时，我们需要努力决定接下来会发生什么。

我不会告诉你一切都会顺利。会有很多变化，其中一些——也许是很多——会带来痛苦。我们依赖的一些东西可能会崩溃，我们将不得不重建它们，也许不止一次。

但我现在比多年来都更乐观。风险依然存在。几年前我看不到的可能性也同样存在。AI 令人脑洞大开之处在于，它赋予我们重新思考和重建整个技术栈的能力，更快、更好。我说的不仅仅是软件栈。

认真对待末日论。让它唤醒你。然后开始行动。

唯一真正度过难关的方式是相信我们能度过，然后付诸行动。