💌 嘿，我是来自 SigNoz 的 Elizabeth！
这份通讯是一次坦诚的尝试，探讨一切事物——可观测性、OpenTelemetry、开源以及其间涉及的工程实践！
&
这篇文章花了 6 天 5 小时才打磨完成，希望我们呈现得还不错。 🌚
如今科技圈流传着两个流行的预言。
第一个预言说SRE 是所有软件工程的未来，随着 AI 编写越来越多的代码，留下来的人类将是维持系统运行的人。第二个预言说 AI 将吞噬所有技术工作，包括 SRE。如果你是一名 SRE，正试图弄清楚 2027 年的周二会是什么样子，那么这两个预言都没什么用。
让我们通过观察已经发生的事情来问一个更接地气的问题：当 AI 处理你 95% 的事件响应时，你是否会变得更不擅长处理那真正重要的 5%？
我们大多数人已经在日常工作中使用 AI（我们的大脑有点炸了！），SRE 也是如此。今天的讨论议程不是 AI 是否会取代 SRE，而是 AI 是否在悄悄削弱 SRE 的能力，以及在下一次新型故障发生之前是否会有人注意到。整个辩论的基础框架来自 1983 年的一篇研究论文，它出奇地有先见之明。
自动化的讽刺：第一部分
作者注：以下是自动化历史的一个简短前奏，如果你对历史和文化感兴趣（像我一样 😉），你可能会喜欢。
1983 年，一位名叫 Lisanne Bainbridge 的认知心理学家发表了一篇论文，题为自动化的讽刺。它成为人因研究领域被引用最多的论文之一，其核心论点在今天看来几乎令人不安地切中要害。
Bainbridge 研究了当工厂和工业系统将蓝领操作员的工作自动化时会发生什么。研究结果自相矛盾，并揭示出：一个过程自动化程度越高，在自动化罕见的失败时刻，人类操作员就变得越关键，而他们得到的练习越少，他们在这些干预中的表现就越差。自动化本质上是为了将人类从循环中移除，却给他们留下了最糟糕的工作，即长时间的被动监控，间或出现罕见的、高风险的危机，而他们对此越来越准备不足。
听起来耳熟吗？🙂
基本上，我在 AI 革命和工业自动化之间画了一个平行线。工业自动化通过接管常规体力任务重塑了蓝领工作，留下来的工人不得不处理他们已经失去肌肉记忆的异常情况。AI 正在对知识工作者做同样的事情：接管常规认知任务——模式匹配、分类、已知问题解决——把罕见的、复杂的、模糊的问题留给人类。
正是那些需要深厚专业知识的确切问题，也正是当你停止实践时就会萎缩的确切专业知识。
现在我们正用 AI 代理重演这种模式，而软件系统中的风险只会越来越大。
AI 在 SRE 中的现状
让我们盘点一下站点可靠性工程领域的现状。
哪些已经自动化或高度 AI 辅助？
告警降噪和智能分组、已知问题的运行手册执行、日志模式检测和异常标记、基于历史事件数据的基本根因建议，以及对充分理解的故障模式（如重启崩溃的 pod 或扩展过热的服务）的自动修复，这些今天都相当自动化了。
哪些即将到来？
一些近期目标包括跨指标、日志和追踪的多信号关联，对部分理解的故障进行自主根因分析，在用户受影响前进行预测性事件检测，AI 驱动的变更风险评估和自动回滚。
PagerDuty 将其描述为一个分层模型。
- 一级事件：已知问题且有已知修复方案的，完全自动化。
- 二级事件：部分理解的问题，AI 提供建议并由人工验证。
- 三级事件：新颖、复杂、级联的故障，仍由人工主导，AI 提供支持性上下文。
但问题就在这里。
如果人类 SRE（好吧，现在我们得用“人类”这样的形容词了 🥹）只处理三级事件，即那些新颖的、前所未见的故障，他们从哪里建立处理这些故障的直觉？直觉通常来自多年的亲身事件响应、通过重复建立的模式识别，以及对系统的那种本能理解，而这种理解只有通过痛苦地在奇怪的时间醒来解决导致系统宕机的 bug 才能形成。
去技能化的危机
这就是情况开始变得模糊的地方。让我们看看一些关于 AI 引发的跨领域去技能化的新兴研究，它们描绘了一幅一致且令人担忧的图景。
在医学领域，最近的一项研究发现，使用 AI 辅助检测息肉的内镜医师，在 AI 使用一段时间后，其无辅助检测率从 28% 下降到 22%。他们在本应成为专家的领域变得更差，不是因为他们忘记了理论，而是因为他们停止了锻炼这项技能。
在航空领域，研究表明，严重依赖自动驾驶系统的长途飞行员在情境意识和手动飞行能力上出现了可测量的下降。问题变得如此严重，以至于 FAA 现在强制要求更多的手动飞行时间来抵消这种影响。
在过去一年的某个时候，AI 不再是我偶尔使用的工具，而成了我总是首先使用的东西。我现在的本能是尽可能多地卸载任务，只在绝对不可避免的地方运用自己的思考。问题是，这些时刻正成为我的大脑唯一得到的锻炼，我能感觉到锈迹。
我们可以从中总结出一个模式。你让系统处理的事情越多，你自己处理事情的能力就越差，而真正危险的部分在于，你感觉不到它正在发生。它被伪装成了超高效。认知研究表明，由于 AI 工具让任务感觉更轻松并提升了可见的绩效，用户往往无法准确判断自己技能的真实状态。你感觉自己很胜任，仪表盘一片绿色，然后在某个周三，一起与 AI 见过的任何模式都不匹配的新故障袭来，你才意识到那块肌肉已经萎缩了。
对 SRE 而言，这体现在具体方面，比如我们不再阅读原始日志流，因为 AI 会替我们总结；我们不再在故障期间形成假设，因为 AI 会给出根因建议；我们不再构建系统架构的心智模型，因为 AI 会替我们映射依赖关系，而其中每一项单独来看都像是生产力的胜利。合在一起，它们掏空的恰恰是让 SRE 在事情以无人预料的方式出岔子时依然有效的核心专长。
但还有比去技能化更令人担忧的事情，研究人员已开始称之为从未技能化。去技能化意味着你曾经拥有某种能力，但后来失去了它。从未技能化意味着你从一开始就从未发展出这种能力。对于今天进入该领域的初级 SRE 来说，在一个由 AI 处理大部分故障响应工作流的环境中，通过动手实践来建立基础直觉和肌肉记忆的机会正在消失。
培养管道本身已经损坏，而且不会自愈。
SRE 意识到自己的技能正在退化，于是更多地依赖 AI 来弥补，这又进一步加剧了技能退化，形成一个难以逃脱的恶性循环。
我们能做些什么？
我们绝对不是要拒绝 AI 工具；我们正在采用它，并比以往任何时候都更紧密地整合它，因为这是唯一的前进方向。
几个值得考虑的方法：
刻意低效。正如 FAA 即使自动驾驶完全胜任也强制要求手动飞行时间，SRE 团队可以指定某些故障——甚至是 AI 能够处理的故障——作为人类练习机会。这可以被视为保持技能新鲜的长期投资，尽管它可能以牺牲超快速解决为代价
为人在回路中而构建，而非人在旁观望。一种系统由人类批准 AI 的建议，另一种系统由人类与 AI 一起主动参与问题，两者之间存在有意义的差别。前者让人处于监督角色，Bainbridge（大约 40 年前写了那篇研究论文的女士）表明这会导致警觉性衰减，而后者让人保持认知参与。
让我们拉远视角，看看更大的图景。
更大的图景
我们在这里讨论的一切——自动化的讽刺、去技能化风险、从未技能化问题——总体上远远超出了 SRE 的范畴。整个软件工程都在应对同样的张力。随着 AI 编写更多代码、审查更多 PR、处理更多调试，同样的问题也适用。
我们专门谈论 SRE，是因为这就是我们在 SigNoz 所处的世界。我们构建一个开源可观测性平台，这类工具为 SRE 提供深入理解其系统所需的指标、追踪和日志。对我们来说，这个去技能化问题不是修辞上的时髦话题；它直接塑造了我们如何将 AI 构建进产品。
我们的方法是从一个 AI 助手开始，帮助 SRE 利用 LLM 的能力，同时让人类牢牢掌握控制权。最终，我们会在明确的护栏内实现更多自主性，而且只有在赢得信任之后才会这样做。
我们在这个领域的一个优势是，作为可观测性平台，我们坐拥数据本身，即 SRE 所依赖的指标、追踪和日志。如今大多数 AI SRE 产品通过 API 与可观测性工具集成，这意味着它们处理的是你系统的一个有限的、二手的视图。因为我们拥有数据层，我们可以构建更深入、更具上下文感知的 AI 能力，像经验丰富的 SRE 那样理解你的系统。
回答你脑中那个迫切的问题：我们的目标不是取代 SRE 的 AI，而是为 SRE 超级充电的 AI。与流传的说法不同，我们相信人类对于最重要的决策仍将不可或缺，尤其是那些影响生产基础设施的决策。
SRE 的未来是人类与 AI 同行，并有意设计 AI 来让人类保持敏锐、投入，并为真正关键的 5% 做好准备。
这是我们创始人几天前发布的LinkedIn 帖子，它启发我写了这篇文章。