AI 不会取代 SRE，但正在让 SRE 技能退化

💌 嗨，我是来自 SigNoz 的 Elizabeth！

本期通讯是一次真诚的尝试，聊聊所有相关话题——可观测性、OpenTelemetry、开源以及其间的工程实践！
&
这篇文章花了 6 天 5 小时才打磨完成，希望您满意。🌚

如今科技圈流传着两个流行的预言。

第一个预言说，SRE 是所有软件工程的未来，随着 AI 编写越来越多的代码，留下来的人类将是维持系统运转的人。第二个预言说，AI 将吞噬所有技术岗位，包括 SRE。如果你是一名 SRE，正试图弄清楚 2027 年的周二会是什么样子，那么这两个预言都没什么用。

让我们通过观察已经发生的事情，来问一个更接地气的问题：当 AI 处理了 95% 的事件响应时，你处理真正重要的那 5% 的能力会变差吗？

我们大多数人已经在日常工作中使用 AI（大脑有点烧！），SRE 们也是如此。今天讨论的议程不是 AI 是否会取代 SRE，而是 AI 是否在悄悄削弱 SRE 的能力，以及在下一次新型故障发生之前，是否有人会注意到任何迹象。整个辩论的基础框架来自 1983 年的一篇研究论文，它出奇地有先见之明。

作者注：以下是《自动化史》的简短前奏，如果你对历史和文化感兴趣（像我一样 😉），你可能会喜欢。

1983 年，认知心理学家 Lisanne Bainbridge 发表了一篇论文，题为自动化的讽刺。它成为人因研究领域被引用最多的论文之一，其核心论点在今天看来几乎令人不安地切中要害。

Bainbridge 研究了当工厂和工业系统将蓝领操作员的工作自动化时发生了什么。研究结果充满悖论，并揭示出：一个流程自动化程度越高，在自动化罕见的失败时刻，人类操作员就变得越关键，而他们得到的练习越少，在这些干预中表现就越差。自动化本质上是为了将人类从循环中移除，却给他们留下了最糟糕的工作，即长时间的被动监控，间以罕见、高风险的危机，而他们对此越来越没有准备。

听起来耳熟吗？🙂

基本上，我在 AI 革命与工业自动化之间画了一条平行线。工业自动化通过接管常规体力任务重塑了蓝领工作，留下来的工人不得不处理他们已经失去肌肉记忆的例外情况。AI 正在对知识工作者做同样的事情，接管常规认知任务——模式匹配、分诊、已知问题解决——把罕见、复杂、模糊的问题留给人类。

正是那些需要深厚专业知识的问题，正是那种专业知识，在你停止练习时就会萎缩。

现在我们正用 AI 代理重演这一模式，而软件系统中的风险只会越来越大。

让我们盘点一下当今站点可靠性工程领域的现状。

告警降噪与智能分组、针对已知问题的运行手册执行、日志模式检测与异常标记、基于历史事件数据的基础根因建议，以及对重启崩溃的 Pod 或扩容过热服务等已充分理解的故障模式进行自动修复，这些如今都已相当自动化。

一些近期目标包括跨指标、日志和追踪的多信号关联，对部分理解的故障进行自主根因分析，在用户受影响前进行预测性事件检测，AI 驱动的变更风险评估与自动回滚。

PagerDuty 将其描述为一个分层模型。

• 第 1 层事件：已知问题且有已知修复方案的，完全自动化处理。

• 第 2 层事件：部分理解的问题，由 AI 提供建议并经人工验证。

• 第 3 层事件：新颖、复杂、级联的故障仍由人工主导，AI 提供辅助上下文。

但问题就在这里。

如果人类 SRE（好吧，现在我们不得不用“人类”这样的形容词了 🥹）只参与第 3 层事件，也就是那些新颖的、前所未见的故障，他们又在哪里建立处理这些故障的直觉呢？直觉通常来自多年的亲身事件响应、通过重复建立起来的模式识别，以及那种只有痛苦地在奇怪的时间点醒来、去解决导致系统宕机的 bug 才能培养出的对系统的本能理解。

这正是图景开始变得模糊的地方。让我们看看一些关于 AI 在多个领域引发技能退化的新兴研究，它们描绘出一幅一致且令人担忧的图景。

在医学领域，最近的一项研究发现，使用 AI 辅助进行息肉检测的内镜医师，在经过一段时间的 AI 使用后，其无辅助检测率从 28% 降至 22%。他们本应是专家的那项技能反而变差了，不是因为他们忘了理论，而是因为他们不再锻炼这项技能。

在航空领域，研究表明，严重依赖自动驾驶系统的长途飞行员在情境意识和手动飞行能力上出现了可测量的退化。问题严重到美国联邦航空管理局（FAA）现在强制要求增加手动飞行时间以抵消这一影响。

在过去一年的某个时候，AI 不再是我偶尔使用的工具，而变成了我首先伸手去拿的东西，永远如此。我现在的本能是尽可能多地外包出去，只在绝对不可避免的地方才动用我自己的思考。问题在于，这些时刻正成为我的大脑唯一得到的锻炼，而我能感觉到那种锈迹。

我们可以从中看出一个模式。你让系统处理得越多，你自己处理事情的能力就越差，而真正危险的部分在于，你感觉不到它正在发生。它被伪装成超高效。认知研究表明，由于 AI 工具让任务感觉更轻松并提升可见的绩效，用户往往无法准确判断自己技能的真实状态。你感觉自己很能干，仪表盘一片绿色，然后在某个周三，一个 AI 从未见过任何模式的新颖事件袭来，你才意识到肌肉已经萎缩了。

对 SRE 而言，这会以具体方式显现出来，比如我们不再阅读原始日志流，因为 AI 会对其进行总结；我们不再在事故期间形成假设，因为 AI 会给出根因建议；我们不再构建系统架构的心智模型，因为 AI 会为我们映射依赖关系，而每一项单独来看都像是生产力的胜利。但合在一起，它们掏空的恰恰是让 SRE 在事情以无人预料的方式出岔子时依然有效的核心专长。

但还有比去技能化更令人担忧的事情，研究人员已开始称之为从未技能化。去技能化意味着你曾经拥有某种能力，但后来失去了它。从未技能化意味着你从一开始就从未发展出这种能力。对于今天进入该领域的初级 SRE 来说，在 AI 处理大部分事故响应工作流的环境中，通过动手实践来建立基础直觉和肌肉记忆的机会正在消失。

培训管道本身已经断裂，而且不会自愈。

SRE 意识到自己的技能正在退化，于是更多地依赖 AI 来弥补，这又进一步加剧了技能退化，形成难以逃脱的恶性循环。

我们绝对不是拒绝 AI 工具；我们正在采用它，并比以往任何时候都更深入地整合它，因为这是唯一的前进方向。

几个值得考虑的方法：

刻意低效。正如 FAA 强制要求手动飞行时间，即使自动驾驶完全有能力胜任，SRE 团队也可以指定某些事故——甚至是 AI 能够处理的事故——作为人类练习机会。这可以被视为保持技能新鲜的长期投资，尽管它可能以牺牲超快速解决为代价

为人在回路中而构建，而非人在旁侧。在一种系统中，人类批准 AI 的建议；在另一种系统中，人类与 AI 一起主动参与问题。两者之间存在有意义的差异。前者让人处于监督角色，而 Bainbridge（大约 40 年前写了那篇研究论文的女士）表明这会导致警觉性衰减，后者则让人保持认知参与。

让我们拉远视角，看看更大的图景。

我们在这里讨论的一切——自动化的讽刺、去技能化风险、从未技能化问题——总体上远远超出了 SRE 的范畴。整个软件工程都在应对同样的张力。随着 AI 编写更多代码、审查更多 PR、处理更多调试，同样的问题也适用。

我们专门谈论 SRE，是因为这就是我们在SigNoz所处的世界。我们构建一个开源可观测性平台，这类工具为 SRE 提供深入理解其系统所需的指标、追踪和日志。对我们来说，这个去技能化问题不是修辞上的时髦话题；它直接塑造了我们如何将 AI 构建到产品中。

我们的方法是从一个 AI 助手开始，帮助 SRE 利用 LLM 的能力，同时让人类牢牢掌控。最终，我们将在明确的护栏内实现更多自主性，而且只有在赢得信任之后才会这样做。

我们在这个领域的一个优势是，作为可观测性平台，我们本身就掌握着数据——SRE 所依赖的指标、追踪和日志。如今大多数 AI SRE 产品通过 API 与可观测性工具集成，这意味着它们所看到的是你系统的有限、二手视图。由于我们拥有数据层，我们能够构建更深入、更具上下文感知能力的 AI 功能，像经验丰富的 SRE 那样理解你的系统。

回答你心中那个迫切的问题：我们的目标不是用 AI 取代 SRE，而是让 AI 为 SRE 强力赋能。与流传的说法不同，我们相信人类仍将在最重要的决策中不可或缺，尤其是那些影响生产基础设施的决策。

SRE 的未来是人类与AI 携手，AI 被有意设计为让人类保持敏锐、投入，并为真正关键的 5% 做好准备。

这是我们创始人几天前发布的 LinkedIn 帖子，它启发我写下了这篇文章。

暂无帖子