跳到正文
404 Media· Jason Koebler·· 51 分钟前AI 评分28

404 Media:Apple Pay、银行、航空系统接连宕机,AI 与大规模裁员正让基础设施持续崩溃

BREAKING: Everything

AI 导读

404 Media 记者亲历 Apple Pay 宕机后指出,近期 Apple Pay、银行、微软、航空管制等一连串故障并非都源于黑客攻击或 AI,而是同一批系统性问题的症状。文章将其归因于疫情以来的科技业大裁员、AI 辅助与 vibe coding 产出的软件更新、政府专业能力流失,以及 LLM 辅助的漏洞发现让补丁被迫仓促上线。

正文 · AI 翻译

BREAKING: Everything

几个小时前,我去租一辆Lime自行车,想骑十分钟去参加我的心理治疗预约。我打开Lime,扫描二维码,然后双击iPhone的侧边按钮来授权Apple Pay。应用卡了几秒钟,然后关闭了。我又试了几次,同样的事情发生了。我心里嘀咕着到底怎么回事——是Lime自行车坏了吗?是我的手机信号没了吗?还是别的什么原因?我打开Uber应用,同样也无法付款。我打开DownDetector,这才意识到整个Apple Pay——一个我以为只存在于我手机上而非云端的东西——都宕机了。我给治疗师发了条短信,把手机放进口袋,开始慢跑。 

几分钟租不到Lime自行车是极其微不足道的不便,几乎不值一提。然而在那几分钟里,我大脑所做的心理体操——什么坏了、为什么坏了、怎么坏的——正是我认识的每个人在过去几周里反复在做的事,因为似乎我们周围的所有服务和系统都在崩溃。周末,一些平时不会和我聊工作的人问我:飞机到底怎么回事?为什么我的银行宕机了?微软又怎么了? 

许多人默认的假设是,这些要么是由网络攻击引起的,要么是广义上的“AI”造成的——无论是AI失控、“流氓”AI代理,还是别的什么——这表明人们对AI有多么恐惧。我一直告诉人们的基本上是:东西坏了,而且还会继续坏下去。原因有很多。这通常不是黑客攻击,也通常不明确与AI相关,但现在一切都有点像那幅XKCD的依赖多米诺塔漫画。 

虽然AI和网络攻击导致这些宕机的说法并不完全准确,但也并非完全错误。我认为,我们看到的一系列基础设施故障(以及一些网络攻击)并非直接相关,但大体上是过去几年我们在社会、政府和科技行业所看到的相同总体趋势和系统性问题的症状。 

首先值得一提的是,每当出现一连串宕机时,人们总倾向于把它们联系在一起。而那些以前根本不会被注意到的宕机或黑客攻击,突然获得更多关注,成为叙事的一部分。例如,国际冰球联合会遭到网络攻击;你平时可能不会听说这件事,但它突然成了更大故事的一部分。 

对于我们所看到的更广泛的灾难性趋势,我能想到的最简单解释是,自疫情以来我们看到了: 

  • 科技工作者和软件开发人员的大规模裁员 
  • AI辅助和“氛围编程”产品、软件更新和补丁的大规模部署
  • 政府部门的大规模裁员以及政府专业知识和监管的彻底摧毁
  • 与这些裁员和资金削减相关的机构知识的流失
  • 未能投资于基础设施升级/冗余
  • 政府合同被分发给总统的朋友和政治盟友
  • AI和LLM辅助/迭代式的漏洞发现、编码和部署
  • 企业正以由 AI 编写且仓促上线的补丁来应对 AI 黑客威胁

当埃隆·马斯克接管 Twitter 并将其更名为 X 时,许多人认为他的裁员以及随之而来的专业人才流失,会导致该网站基本上因基础设施故障而崩溃。Twitter 基本上会“宕掉”,因为有人会弄坏某些东西,而没人知道该怎么修。我们并没有真正看到 X 发生这种情况,但那种解雇专家、把 AI 一股脑 YOLO 进一切、同时祈祷别出事的理念,如今已成为我们整个经济和整个政府的明确战略。 

那么,我们所看到的是紧密聚集的攻击、宕机和搞砸事件的混合体——当人们和公司粗心大意、不知道自己在做什么,或者为了应对新威胁而极速响应、临时拼凑时,你就会看到这些。 

“我们正在对整个经济和基础设施进行忒修斯之船式的改造”

我们知道这在某种程度上正在发生,因为在 LLMs 协助下发现的 PHP2Shell 漏洞利用事件之后,我们看到各种网站宕机,因为它们试图以比平时更快的速度推送更新,因为从漏洞被发现到被利用之间的时间比以往任何时候都更短。(就在我写这篇文章时,Calif——利用 LLMs 发现 PHP2Shell 的公司之一——宣布它已使用 LLMs 在 Java 中发现了显然严重的漏洞。)

公司和机构正在对运行中的系统推送更新(例如包括我们的空中交通管制系统),部分原因是 AI 的威胁,而事情正在出问题。例如,美国国家安全局周二早些时候表示,一些内部系统因“计划内例行维护期间的临时降级”而宕机。 

网络安全和基础设施安全局代理局长尼克·安德森周二表示,我们需要为基础设施注入更多韧性,但要在软件中构建韧性和冗余,需要有人理解系统可能如何失效、为此做规划并加以缓解。 

“最终能够胜出,靠的是能够展示出对中断的韧性,无论这些中断是因为 IT 宕机或糟糕的补丁,还是现代化更新出了岔子,抑或是恶意的网络事件——我们希望确保我们在工程设计中融入韧性,能够预见并最终克服那些宕机和影响,”安德森在一个名为 FedTalks 的活动上说。 

我们或许最终会到达这样一个境地:专业知识和理解高度复杂的系统再次成为优先事项,但过去几年里,公司和政府一直在以极快的速度减少对人的依赖,将其转交给 AI 系统和 AI 生成的代码,表面上是为了节省劳动力成本,和/或推行一个反人类主义的政治项目。 

我觉得这篇名为“软件正在系统性层面崩溃”的文章写得相当不错,作者是一位名叫 Jimmy Breck-McKye 的软件开发者。他提到了 Kristen Maevyn 的The Decoherence Trap,该文认为 AI 编写的代码正在造成一种局面:人们和公司都不理解自己的产品。 

“如今大多数软件工程师在没有某种形式的 AI 辅助下,都无法解决工程问题。这并不是因为他们无能——他们只是无法跟上复杂性的步伐,”Breck-McKye 写道。“即便他们曾经能做到,现在也要面对 AI 生成代码的海啸。这影响着所有人,无论层级高低——我们都在对抗那些孤立看合理、整体上却逐渐失去意义的小而不连贯的变更浪潮。”

人们越来越不理解、甚至完全不知道自己的代码是如何运作的,大家行动得非常快,坏事也在发生。任何一次单独的故障或崩溃,在某种程度上都可能是巧合。我们看到的许多故障与 AI 毫无关系,却与基础设施、冗余和专业知识方面更广泛的投入不足有关。我们正在对整个经济和基础设施上演忒修斯之船,所以,我想,我们只能继续预期坏事会发生。

来源:404 Media · 404media.co