软件正在系统性层面走向崩溃
Software is breaking down at a systemic level
继全球性 Microsoft 宕机与美国联邦航空管理局(FAA)停飞令之后,文章指出软件故障已呈系统性特征:PHP2Shell 漏洞影响约 70% 的网站,eMudhra 数千张 SSL 证书因私钥过弱被攻破。作者认为 AI 既是诱因也是症状——黑客和研究者可用 AI 在数小时内挖出复杂漏洞,但更深层的问题在于由低质量组件堆叠、无人能掌握全貌的构建方式本身。
最近软件运行得不太顺利,对吧?
这个周末我们遭遇了双重打击:先是微软全球性故障持续两天,随后美国联邦航空管理局(FAA)发布地面停飞令,导致全美所有航班停飞。
你能相信吗,距离 PHP2Shell 漏洞才过去四周?这是 PHP 中的一个严重漏洞,据估计 PHP 支撑着全球约 70% 的网站,工程师们手忙脚乱地修补系统时,大量网站完全下线。
接着又发生了 eMudhra 惨败事件,数千个 SSL 证书——我们用来保护 HTTPS 网站和互联网流量的方式——被一个弱到近乎滑稽的私钥所攻破。
感觉 2026 年就是黑客攻击、服务中断、漏洞和 IT 恐慌的一年。到底发生了什么?
你可能会忍不住怪罪 AI,这也不算完全错。人工智能模型确实是其中一部分原因。即便微软等公司不透露出问题的系统是否用 AI 构建,我们确实知道,黑客和研究人员现在可以用 AI 技术在几小时内找到复杂的漏洞利用方式。
我在工作中大量使用 AI。它极其强大。但如果使用不当,它也具有腐蚀性。
但 AI 在这里既是原因也是症状。我们看到的是软件在系统性层面上正在崩溃。这个问题很隐蔽,因为出问题的不仅是软件本身,还有我们构建软件的整体方式。
故障成为系统性问题意味着什么?
看看近期软件可靠性方面的危机,你会注意到它们并没有——据我们所知——共同的直接原因,但彼此却惊人地相似。
微软
微软的故障很可能源于一次网络配置故障,导致微软数据中心之间无法相互通信。接下来究竟发生了什么仍属机密,但似乎引发了级联故障,没有任何服务能恢复到有效状态足够长时间以承载流量。
Reddit 和 Bluesky 上有人推测,就连微软的工程师也未能真正掌握这次故障的复杂性。
微软因其 Azure 平台的(不)可靠性而面临越来越多的批评。早在今年 3 月,前微软工程师 Axel Rischin 发表了这篇严厉批评:
微软在激烈的竞争压力下仓促推出 Azure。偷工减料。可靠性和运维简洁性的基本原则被悄悄抛弃。
微软没有回到绘图板去解决日益增长的技术债务,而是依赖快速修复:运行缓解脚本的多层自动化、不断壮大的待命团队,以及当自动化不够时的人工修复。
他的文章描绘了一个由低质量部件构成的高度复杂系统,没有人能看清全貌。
PHP 事件
10 月 21 日,安全研究公司 Wiz 自豪地分享了一个可在任何 PHP 网站上执行任意代码的漏洞利用。该漏洞名为 PHP2Shell,Wiz 大肆宣扬 AI 工具的强大能力,称其实现的漏洞利用远超人类攻击者的技能水平。
事实证明,PHP 运行时隐藏了多个复杂的记忆簿记缺陷长达十余年。PHP 广泛用于电子商务,最著名的应用是 WordPress,后者曾是廉价搭建简单网站的首选。
PHP2Shell 的文章描绘了一个依赖漫长依赖链的互联网,其中隐藏着复杂到无人能识别的漏洞。
Shai Hulud 攻击,2026 年 5 月
技术圈之外的大多数人可能没听说过这件事,但在今年 5 月,我们遭遇了一场危机:攻击者攻陷了 JavaScript 生态系统(NPM)中一些重要软件包。
这些软件包使用 GitHub Actions 执行持续集成(CI)——自动化测试、发布等——并且存在一处关键配置错误:任何 fork 其项目的人都能将受损代码插回上游。
当下一次上游 CI 构建运行时,它会从缓存中获取库。JavaScript 包管理器 NPM 允许这些库包含脚本。这些脚本本意是用于日常维护任务,但在这里,它们被用来劫持项目的密钥令牌。
JavaScript 生态系统长期因安全性差而受到批评。NPM 项目是复杂的依赖链:依赖调用依赖,再调用依赖。
任何依赖都可能携带脚本。任何依赖作者都只差一步就会让自己的代码被攻陷——他们所要做的只是复制粘贴错误的代码。
换句话说:一个由低质量部件构成的高度复杂系统,其中单个错误就能危及一切。
我们是如何失去控制的
情况并非一直如此。仅仅 12 年前,科技还是一个不同的行业。
构建软件曾经很难。计算机程序由数百万条微小指令组成,要把它们变成一个可运行的系统,就像手工组装一块手表,有数百个相互作用的部件。只不过,与手表不同,每个计算机程序都必须做出全新且不同的事情。
那是我成年后最有趣的经历。它既是科学,也是艺术。你必须能在脑中同时容纳一切:想象所有微小部件如何被编排成一个连贯的整体。我推荐每个人都去体验亲手编写计算机程序的冒险。
但如果你是管理者,那就没那么有趣了。没有多少人能写好计算机程序,而人类很难规模化。让他们在不出误解的情况下沟通很难。许多项目失败了。你能找到懂得如何管理复杂性的程序员,但他们想要高薪。
不同的运动试图解决这个核心问题。有些人认为软件开发实践会有帮助,比如把编程变成高度结构化的“最佳实践”模板。或者采用 SCRUM 之类的管理风格。但它们的作用始终有限。
大约十年前,我们行业发生了两场小革命,而世界其他地方几乎没有注意。它们是云计算和开源库。
云计算是用虚拟化基础设施取代你自己的硬件和基础设施,你可以从 Amazon Web Services 之类的提供商那里租用。你可以在 AWS 中点击一个按钮,就像服务器凭空变出来一样。
企业喜爱云,因为它让他们可以把系统管理员和运维人员从流程中移除。你不必等某人真的去现场,在数据中心安装机架。承诺是你的软件可以像代码一样快速移动,不久之后,一场名为 DevOps 的运动实质上把开发者和运维合并了。
然后,我们迎来了开源热潮。
一直以来都可以复用其他地方的代码——程序员们在论坛或 StackOverflow 这类网站上分享代码片段——但当 NPM 这类工具在 2014 年横空出世时,感觉真的是一场变革。你只需在 package.json 里加一行,敲下 npm install,然后——嗖——你就能复用互联网上任何陌生人写的代码了。
团队喜欢 NPM(以及 PyPi、Maven……),因为只要别人先解决了难题,他们就不必再去啃硬骨头。程序里的所有小部件——我那个钟表匠比喻里的齿轮和轮子——曾经都是手工打造的。现在你可以免费、永久地获得齿轮、轮子和整套机构。
这意味着程序员可以少关注细节。比如,与其去琢磨编写检查某人密码所需的代码这类细枝末节,你不如直接让 NPM 和它的伙伴们来处理。
开源之所以伟大,是因为你有一小群充满热情、不拿报酬的开发者,他们在构建所有人都依赖的代码。你可以靠他们的代码赚到数百万美元,甚至都不必对他们特别客气。(人们并没有)
但代价是,所有人都不再了解细节。你不得不交出控制权。如果某个 NPM 包被攻陷,或者作者别有用心,你就麻烦了。
文化上的变化
因为需要操心的细节变少了,技术专业人士开始失去自己的专长。你不再需要一支运维团队、一支后端开发团队、一支移动开发团队、一支测试团队。你可以把他们扁平化成通才。
这改变了员工与管理层之间的权力平衡。
想象一个建筑工地,那里有一名水管工、一名建筑工和一名电工。如果他们中任何一个人威胁要辞职,你就有麻烦了,因为你需要他们每一个人才能完成项目。而如果你能把每个人都变成水管工-建筑工-电工的混合体,他们就失去了那种筹码。
你认为这种权力失衡是不是坏事,可能取决于你的政治立场。但它产生了一种缓慢的效果:把影响力从贴近实际工作的人手中拿走。而正是这些人,能在事情开始出错时拉响警报。
到 2016-17 年,已有迹象表明开源的上层建筑存在薄弱环节。
left-pad 事件是我们走向何方的早期预警。在 JavaScript 生态系统这张错综复杂的网中,依赖关系千丝万缕,一位库作者因一场法律纠纷下架了自己的包,结果几乎破坏了其他所有人的项目。
但大体上我们还是应付过来了。即便经历了疫情后时代的招聘与裁员周期,以及 XZ Utils 后门这样的险情,技术大体上还是保持了稳定——这要归功于全球各地大批勤勉的开发者和运维人员。
然后 AI 来了
……是的,然后 AI 来了。
关于 AI 系统本质上具有非确定性,已经有很多论述——它就像一台老虎机,只会制造工作的拟像。这种观点认为,AI 生成的代码就像一只随机鹦鹉,总是容易出现幻觉和 bug。
这话有道理。但我认为当下的危险恰恰相反。问题并不在于模型输出很烂、不可靠。它们其实相当擅长做你让它们做的事(不过我怀疑这主要是因为 Anthropic 等公司在大幅补贴算力)。
我认为真正的 AI 威胁是失相干。
Kristen Maevyn 写了一篇名为《退相干陷阱》的文章,讨论了一个问题:系统的各个部分孤立来看可能都没问题,但作为更大系统的一部分却说不通。
退相干:在一个系统中积累了大量局部有效但彼此不兼容或冗余的模型,以至于变更的成本主要被消耗在模型之间的转换以及防止意外副作用上。
过去一年我观察到的软件工程师们,几乎已经把全部工作都交给了 AI 智能体。一开始只是写测试、函数和单个组件这样的小任务。但现在是一切——不只是组件,还有设计、编排、整个概念。
编程曾是一项活动:把来自混乱人类世界的想法和意图翻译成代码,使其如此澄澈、如此精确而拘泥细节,以至于连计算机都能执行它。它本质上是一种把复杂性蒸馏为秩序、从无中创造出真实的行为。
这项活动正在迅速消亡。在大多数科技公司里,它已不再发生。
如今大多数软件工程师在没有某种形式的 AI 辅助下已无法解决工程问题。这不是因为他们无能——他们只是无法跟上复杂性的增长。即便他们曾经能,如今也要面对 AI 生成代码的海啸。这影响着所有人、所有层级——我们都在对抗那股由细小、不连贯的变更组成的浪潮,这些变更孤立看很合理,但作为整体却慢慢失去意义。
Kristen 写道:
退相干相对于系统的变化速率而增长,而且系统越退相干,它增长得越快,从而导致失控的指数级增长。这并非新现象,人类一直通过仔细寻找以更少资源做更多事的方法、将分散的模式和模型统一为连贯整体来对抗它。然而,AI 的广泛使用目前正以不可持续的速度产生退相干。
一种习得性无助已经出现,同时伴随着一种自相矛盾的虚假自信,其成因是 LLM 提供工作幻觉的方式,它们并未真正迫使我们把细节想清楚。
软件工程师的这种去技能化只会让权力天平进一步远离开发者——他们再也无法发出警报。最坏的情况下,AI 把技术工作者变成“肉身代理”,他们整天打磨提示词,让 Claude 去判断工作是否真的完成了。
系统性衰败
不只是程序员。这是整条链条,从上到下。每个人都在用 AI,尤其是在大型科技公司。
Claude 生成代码,因为工程师写了一个提示词。提示词来自一张工单,而工单是用 Claude 写的。项目经理根据一份文档的摘要写了这张工单,而那份文档是由 Claude 撰写、又由 Claude 总结回来的。文档使用了 Claude 所做计算的统计数据。业务部门在为股市恐慌,而股市优先考虑短期趋势而非长期工程。
这听起来准确吗?这是一幅漫画,但夸张得并不多。
我认为科技公司有失去其“组织认知”的风险——即作为一个连贯整体去思考和响应的能力。
这才是真正的威胁:一种系统中没有任何事情是带着意图去做的、系统中也没有任何人拥有控制权的场景。我们生成复杂性的速度超过了我们驯服它的速度。
看看我列出的这些问题。它们关乎过度复杂的系统,这些系统由必须完美运作的部件构成,否则一切都会崩溃。这些部件正被各自侵蚀:偷工减料、削减成本、过度复杂化、过度依赖无偿劳动,以及——我担心——数字基础设施建设者们的无力感。
利害攸关的是什么?
这是对我们所有人的威胁。科技产业如今对日常生活至关重要。是软件控制着你的航班、你的银行、你的加油泵、你的电视、你的工资单。是它让你能够导航道路、找到朋友。是你约会的方式,也是你吃饭的方式。是你正在阅读这篇文章的方式。
社会已将信任——过多的信任——延伸到了技术系统之中,而这些系统如今正表现出系统性的退化。我认为社会、政府或机构都尚未准备好迎接一个2026年的故障与宕机变得司空见惯的世界。它们也在不断延长依赖、假设、复杂性和不当信任的链条。每一层、链条上的每一环,都是一个新的攻击点,可以颠覆其上的一切。
互联网正处于崩溃的边缘。我们构建的软件不够清晰可辨,无法承担世界赋予它的责任。我们告诉自己AI革命正在成功,恰恰是因为我们制造复杂性的速度。生态系统中真正承重的部分——开源、以工程为主导的判断——正在土崩瓦解。
我认为我们才刚刚进入一个非常痛苦的阶段的开端。这不是暂时的波动,也不是异常——这是新常态。
来源:Hacker News · breck-mckye.com