AVEVA 如何为自主工业 AI 构建更安全的落地路径

工业AI正进入一个新阶段。在经历了数十年的预测分析和其它专业应用之后，基础模型、物理AI和代理式AI的进步，使得在工业环境中自动化更复杂的任务成为可能。但与纯粹在数字世界中运行的AI不同，工业AI可以直接与物理系统交互，而在那里，一个意外的决策可能对安全、可靠性和关键基础设施造成后果。

这使得负责任部署成为下一波工业自动化的核心。AVEVA首席技术官Arti Garg问道：“我们如何在利用这些技术的同时，保持安全、保持可靠运营，同时仍能兑现新能力的承诺？”随着更新的AI系统变得能力更强但也更难预测和解释，这一挑战尤为严峻。

使这一转变奏效的基础之一是数据。工业系统通常包含遥测、服务日志、工程文档以及其他分散来源的信息。更新的技术可以帮助更快地连接和关联这些信息，在诊断问题时为操作员提供实时支持。AI驱动的机器人可以更进一步，在危险环境中收集信息，而无需工人进入其中。

但更大的自主性也需要新的治理方法。AVEVA的负责任AI框架强调安全性、效率以及人员安全与监督。Garg认为，在关键决策回路中，AI应当增强而非取代人类，并由护栏决定自动化系统可以在哪里行动、人类监督者在哪里仍负有责任。

可持续性是这一方程的另一部分。随着可再生能源发电增长，AI可以帮助管理复杂的电力系统，同时组织也需要更好的方式来理解AI自身的环境足迹。Garg参与了一个IEEE工作组，该工作组正在制定一种标准方法，用于衡量AI在电力、能源、资源、水和碳方面的影响。

下一阶段可能将工业AI进一步带入物理世界，从自主机器人和无人机，到允许领域专家构建新应用的AI辅助编码。但Garg表示，要实现这一潜力，需要的不仅仅是部署新技术。组织将需要重新思考业务流程，建立适当的保障措施，并为经验丰富的工人提供运用其专业知识的新方式，从而创造一种不仅更自主，而且更安全、更高效、更可持续的自动化模式。

Garg说：“自主系统，无论是机器人还是无人机，真的将改变我们在工厂、电力系统和矿场中的工作方式。在某种程度上，这将使这类运营更高效、对参与其中的人员更安全，并且更富有生产力。”

本期Business Lab节目与AVEVA合作制作。

完整文字记录

Megan Tatum：来自《麻省理工科技评论》，我是Megan Tatum，这里是Business Lab，一档帮助商业领袖理解从实验室走向市场的新技术的节目。

工业AI或许并不新鲜，但它正以惊人的速度发展。从能够预防设备故障的现代预测分析，到负责检查高风险机械的自主机器人，新兴应用有望彻底改变运营效率。但由于常常用于容错率极低的高风险环境，若在部署工业AI时缺乏清晰度、安全性或问责机制，随着时间推移，也可能对关键基础设施造成灾难性后果。在各行业争相拥抱最新技术之际，目标始终应是负责任的AI，旨在支持而非取代至关重要的人类判断。

送您两个词：可持续自动化。

今天的嘉宾是AVEVA的首席技术官Arti Garg。

本播客与AVEVA合作制作。

欢迎你，Arti。

Arti Garg：谢谢你，Megan。很高兴来到这里。

Megan：非常感谢你加入我们。首先，如果能为我们的讨论设定一些背景，你能分享一下工业AI的现状，以及AVEVA目前正在做的工作吗？

Arti：好的，非常乐意。我想回到你刚才提到的，即在某些方面，工业AI并不新鲜。即使在AVEVA，我们也已经研究了20多年，真正思考AI如何增强工业领域的应用。

但也许在过去几年里发生了相当大的变化，那就是AI的类型。我们确实转向了这些通用基础模型，它们让更多人能够利用先进的AI技术。除此之外，就在过去几年里，所谓的物理AI以及能够真正加速机器人和自主系统能力的各类AI出现了爆发式增长。还有代理式AI，它也允许在更多软件层面实现自动化。

我们看到的是，虽然过去人们对采用结果不完全可预测的模型有些犹豫，但即使在工业领域，AI的采用也在迅速加速。一项研究显示，工业领域在过去仅仅两年内可能增长了近78%。所以是的，这是一个拐点，但如果你考虑AI采用的话，它几乎像一个阶跃函数。

而我们现在在AVEVA真正思考的是，我们如何看待这个问题？我们如何考虑将这些新的、非常强大的AI技术融入客户拥有关键任务运营、人身安全是重要因素的环境中？这些是客户在考虑采用任何新技术时的主要担忧。我们正在狭窄的范围内这样做，因为这些新型AI的行为方式并不一定可预测。我们真正在思考的一个领域是，我们如何在保持安全、保持可靠运营的同时利用这些技术，同时仍能兑现新能力的承诺？

Megan：需要考虑的事情太多了，不是吗？你概述了近年来我们在这一领域看到的一些巨大发展。是什么让这成为工业AI的一个关键时刻？发生了什么变化，使一些或许更遥远的假设变得更加可信？

Arti：嗯，我认为工业 AI 面临的一大挑战，也是作为 AVEVA 我们骨子里、核心 DNA 里的东西，就是要在工业领域真正利用任何数字技术，你首先需要做的一件重要事情往往是从不同系统中收集并关联数据。比如，我可能有一台泵或搅拌机的遥测数据，我想把它与服务日志关联起来，这样我就能知道上次有人对那台泵或搅拌机进行维护是什么时候。也许我还想把它与原始设计文档以及一些关于如何维护它的原始文档关联起来，这样如果出现问题，我就能更好地诊断哪里出了故障以及如何解决。这一直是工业领域的核心挑战。

我认为现在正在发生的是，借助更新的技术，甚至像图数据库这样的东西，以及能够利用 AI 更快地匹配不同的数据集，我们已经能够做到：如果出了问题，操作员不必再花一些时间做研究，去真正理解这些不同的信息组件是如何组合在一起的，他们可能只需一台 iPad，上面有一个 AI，就能非常快速地获取信息、进行关联，并几乎实时地帮助诊断正在发生的情况。

甚至再进一步一些，但也没有你想的那么遥远，我仍然用人类操作员和可能的移动平板来描述，但想象一下，现在还可以有一个机器人在那个环境中移动，同样在收集数据，并且要么通过机载计算，要么通过与操作员的快速连接——操作员现在不必亲自进入危险、可能有些危害的空间——就能够收集数据并实现非常快速的诊断。我认为这正是当下令人兴奋的地方，也是我谈到的所有这些新技术正在帮助实现的事情。

然后我认为，从我们的角度来看，要真正利用所有这些，就意味着我们现在必须大量思考对此的治理方法。我们如何以某种方式利用 AI，使其保持受控？

Megan：是的，完全同意。关于治理这一点，AVEVA 如何定义负责任 AI，你认为主要好处是什么？

Arti：是的，所以我认为对我们来说，我们围绕负责任 AI 考虑三重使命，这意味着它是安全的、高效的——这包括环境高效——并且最重要的是真正维护人类安全和人类监督。对我们来说，这就是我们负责任 AI 的一些核心支柱。对我们来说，这意味着我们在内部构建工具时，会考虑一种多层次的治理方法，既包括我们作为公司如何使用 AI，也包括我们如何将 AI 部署到产品中。我们在两者之间采用类似的框架，一种联合治理模式，既涉及我们如何利用 AI，也涉及我们如何将 AI 融入产品，让我们的客户能够在其运营中利用 AI。

但我想说，在所有这些之下，一个核心的基本原则是，在我们思考如何利用 AI 时，人仍然处于中心位置。因此，人的判断、人的责任、人的伦理仍然是我们思考 AI 能在何处带来益处的核心，而且我们更多把它看作是在关键决策回路中增强而非取代人类。

Megan：对，这是一个非常重要的区别，不是吗？就下一阶段的发展而言，越来越多的人认为，代理式 AI 很快将让这些工业系统能够更加自主地运行。我想知道，工业环境中的风险与纯数字环境中的 AI 风险有何不同？而反过来，同样的软件定义自动化又有哪些益处和机会？

Arti：我想我们可以先从风险谈起，然后再谈益处。归根结底，我想说工业环境中最大的风险在于，我们是在与真实的物理系统交互，而这些物理系统往往非常有能力交付维持我们世界运转的重要成果，无论是输送电力，还是开采自然资源。但通常，这些物理系统也运行在危险环境中，设备本身也可能对人身安全产生影响。任何时候，当你把软件与可能产生现实世界后果的物理系统对接时，你都必须格外小心。我们一直都有这种意识，再说一次，在 AVEVA，从一开始这就根植于我们的 DNA 之中，始终关注最终用户和最终应用，而不只是电脑屏幕上的东西。

即便过去几十年我们已经在系统中部署了 AI，我们通常也倾向于真正努力挑选最合适的模型，真正理解该模型的行为——如果我们要使用的话，比如，我们有一个专有的异常检测模型，它在许多运营环境中都能发挥作用。现在，当我们在思考一些更新的 AI 能力时，这些能力在设计上就很难理解其行为方式，它们并不像我们过去对 AI 甚至统计模型的思考方式那样从根本上可解释，而且实际上它们的行为会随着学习和针对新能力的调优而随时间变化。基于会随时间演变的能力来自动化物理系统，这确实是一个潜在风险，也是我们必须真正留意并深思熟虑的事情之一：我们愿意在哪些地方把这种更高程度的自动化付诸实践？

但与此同时，我认为那里确实存在一个真正的机会，因为我刚才轻描淡写地提到了这个想法：好吧，模型会进化，但人类也会进化，而有时这是一件好事。我们谈论人类拥有专业知识，他们在职业生涯中逐渐理解一个系统是如何运作的。如果我们能够真正利用一些较新的 AI 能力——这些推理模型通常具有底层的智能体能力——来更快地学习和积累经验，并且可能更重要的是或更有价值的是，将在一个地点学到的经验应用到另一个地点，那么这就是一个真正的机会，可以把我们已经知道对人类有效的东西——即有时你只能通过实践来学习——加以应用，并通过 AI 将其规模化。这就是我认为在这个领域存在真正机会的地方。

在工业领域，我们真正意识到的一件事就是我们的劳动力正在发生变化。我认为几乎一半——还不到一半——的工业劳动力将在未来五年内退休，这意味着我们将在该领域失去大量的专业知识和经验。如果有办法确保我们能够以可操作的方式捕捉这些知识，以也能帮助习惯于以不同方式体验事物的新一代工人的方式，应用这些专业知识、应用这些知识，那么我认为这在工业领域是一个巨大的机会。

Megan：是的，绝对如此。显然，那里存在一些巨大的机会，尤其是在你所概述的其他市场和劳动力变化的背景下。我想在此基础上问一下，这些自主工业 AI 系统在负责任地构建和部署后，在促进更快、更可持续的工业流程方面有什么潜力？

Arti：我认为可以从几个不同的角度来思考这个问题。一个是，潜在更环境可持续的流程有哪些需求？我举一个例子，我的团队一直在与美国爱达荷国家实验室合作开展的一个项目，作为他们 AI 电网韧性测试项目的一部分。

随着我们迈向一个拥有更多间歇性可再生能源发电来源的未来——例如通常是分布式屋顶太阳能——电网面临的挑战之一是，管理电网变得越来越困难，无论是真正理解电力容量从哪里输入、电力负荷从哪里从电网抽取。除此之外，还要能够维持电能质量，因为不再是有一个旋转资产提供穿越电网的电力的频率，而是有许多较小的系统。AI 实际上对于能够管理未来的电网相当关键。而这是我们一直在合作开展的事情之一：我们如何做到这一点？我们如何帮助电网运营商更好地了解其系统中正在发生的事情，识别出哪些地方可能出现异常行为，以便他们能够及早发现并进行补救？

不过与此同时，我一直在说，这是一个例子，说明AI有可能帮助我们加速向低碳能源未来转型。与此同时，我认为围绕AI本身的可持续性也有很多讨论。电力需求是什么？运行AI需要哪些资源？在我谈到我们在AVEVA如何看待这个问题之前——因为这确实是我们思考的问题，我认为该领域的许多参与者也在思考——我想指出，挑战之一在于，目前确实没有一种公认的方法来衡量AI的环境影响。你会看到很多这样的报道，比如在某种聊天界面上进行一次查询会消耗X加仑的水或多少电量。但事实是，在整个业界范围内，并没有公认的标准。

我参与的一件事是IEEE两年多前启动的一个标准工作组。我是该工作组的主席，它叫P7100标准工作组，负责衡量AI的环境影响。我们试图做的一件事，就是真正确定我们想要考虑AI相关环境可持续性的所有不同领域，然后制定一套行之有效的标准方法，既可以从报告的角度采用，也可能从监督或监管的角度采用。这对于真正理解AI如何影响环境至关重要，因为我们必须知道，它使用了什么？我们希望全面地看待这一点。我们的标准涵盖电力和能源消耗，涵盖资源使用，涵盖水消耗，也涵盖碳。

但话虽如此，我认为重要的是我们要了解AI的足迹，但同时也要认识到，更大的模型使用更多算力，而更多算力可能会利用更多资源。我们越能有意识地针对正确的应用选择正确规模的模型，就越能开始走上让我们运行的AI更加环保高效的道路。这样做的一个潜在好处是，模型越是为特定目的而构建，就越不容易以不可预测的方式出现异常行为——前提是你正确选择了架构。这还有一些超越环境可持续性的附带好处。

Megan：很有意思。听到幕后正在进行的一些工作真的非常非常有趣，因为正如你所说，我想我们都听说过一些关于环境影响的统计数据。所以，了解那里正在进行的一些工作来真正澄清这一点，真是太好了。

我们之前稍微谈到了AI增强人类。随着系统获得更大的自主性，组织应如何思考闭环自动化与人在回路问责之间的平衡？需要设置哪些护栏？各国政府和跨境参与者又如何应对这些关切？

Arti：这个问题包含的内容很多，所以我试着逐一回答。首先，从闭环与人在回路之间、自动化与问责之间的那种平衡说起。在工业领域，我们经常谈到的一件事是从人工操作员转变为工业系统的人工监督者。说实话，我们仍在摸索这一点。当人在自动化系统的回路中时，你实际上是在考虑一个系统可以处理所有数据，然后给出建议。

我们一直在与几个不同的客户更紧密地合作开发一个解决方案，我们能够接收大量他们的运营数据，以及一些他们系统如何运行的模拟，并能够提供建议，比如，基于你工厂中其他一些正在变化的条件，你现在应该在这个设定点而不是那个设定点运行。人们对从推荐设定点转向能够自动调整设定点的自动化非常感兴趣。我们实际上已经在这方面进行了一些成功的真实世界试点。

但当你深入其中时，很明显，如果你在工业设备上更改设定点，会让人非常紧张。这就是你可能需要继续设置一些护栏的地方，例如，你不能超出某个操作范围，或者我们只允许在某些区域使用自动化。这就是人工监督者发挥作用的地方，就像人工监督者可能会给员工很大的空间或灵活性，让他们在某些事情上做决定，而在其他事情上则是硬性规定，比如这是截止日期，或者这是生产目标。就是这样。所以要想一想，你如何设置适当的护栏？

挑战在于，AI 不是人类，因此护栏看起来不同，我认为这是仍需思考的事情之一。那个问题，应该设置什么样的护栏？我认为这可能会在一定程度上取决于应用，但随着时间的推移，我想我们都会学习，所以我认为，非常坦诚和深思熟虑地去做这件事很重要。

但机会可能真的很大。我已经提到过，AI 在综合大量信息并把重要的事情凸显出来方面非常有用。这是我们确实想要创造一些实验空间的事情，但重要的是确保人类理解风险。

我讲一个个人小故事，因为它可能具有说明性。这个周末，我买了一个小玩具机器人，决定要给它编程做一些事情，我发现 AI 非常非常有帮助，让我开始阅读所有文档。组装机器人很简单，他们有很好的说明，但已经有一个相当庞大的软件开发工具包，通读所有文档可能需要一段时间。AI 非常有用，帮我找出，这是做这个的函数，帮我入门。但偶尔，它在排除故障的最佳方法上给出了非常糟糕的建议。

这就是为什么我认为让人类参与其中，能够说“我知道它不会成为最好的软件架构师或最好的故障排除专家”，是非常有帮助的，因为我有机会利用AI擅长的事情——综合和呈现大量信息，但能够说“我不认为这是最高效的第一步。我们试试别的。”这就是一种非常不同的工作方式，但我认为随着人类对AI的能力和局限越来越适应，你可以开始教人们如何与它合作，这与使用其他数字工具的方式非常不同。

在AI方面，重要的一点是要认识到它所触及的广度以及它将产生的广泛影响，无论是像我们讨论过的对环境的影响，还是整个讨论中隐含的对生产力的影响，对劳动力的影响，还是对经济运作方式的影响。在我看来——我绝不是这个领域的政策专家——但我看到的是，不同的政府正在优先考虑其中不同的方面，这体现在他们思考监管和其他治理方式的方法上。

Megan：我们确实看到世界各地对此有着截然不同的方法，不是吗？我想为了说明这一点，你能否分享一些你见过的案例研究，也许向我们讲述它们能为其他在AI旅程中可能还处于较早阶段的组织提供哪些经验教训。

Arti：我认为，在工业领域我们看到采用AI带来明显效益的许多关键领域，其核心实际上都是把数据做好，建立正确的数据基础，这样你才能在其上构建AI。

我们的一个客户SCG Chemicals，是泰国的一家石化公司，他们的愿景是为其运营打造一个尽可能AI驱动的可靠性平台。但其中的核心部分实际上是做好数据，能够将所有信息放在正确的位置，利用AVEVA的一些工具来实现这一点。将运营数据和工程数据整合在一起。然后在此基础上叠加AI能力，在这个案例中，是我们的一项名为AVEVA Predictive Analytics的能力，它部署了一些专有模型来执行诸如检测异常之类的任务，这样他们就能更早地识别潜在的运营风险。并且不是发生非计划停机，而是将其转化为计划停机。当你将非计划停机转化为计划停机时，工厂可靠性就能获得巨大提升。

目前他们的目标是达到约99%的工厂可靠性，并从他们部署的平台中获得非常非常高的投资回报率。同样，在早期试点阶段，投资回报率几乎达到9倍，这确实相当令人印象深刻。但我想强调的是，要做好这件事是一个多层面的问题。

Megan：不过，这些结果确实非常引人注目。我的意思是，对于那些可能仍在犹豫是否探索AI的工业领导者，我想知道，你认为采取更观望态度的代价是什么？

Arti：我认为，这又是一个工业领域在应对这类问题时需要采用略有不同的考量方式的领域。总的来说，我想大多数商业专家都会说，你不能对 AI 采取观望态度，因为它在社会和经济的每个领域都具有如此大的变革性，当然在工业领域，我们也不能幸免。但我确实认为，我今天概述的一些挑战也会让工业领域的领导者们产生一种心态，即有时可能成为新技术的快速跟随者，而不是第一个采用者，因为风险太高了。

但话虽如此，我认为挑战之一在于，我们今天所讨论的、将行为并不总是可预测的系统与物理系统融合在一起的风险是，我不知道是否还有很多其他领域会去解决这些问题。这正是我看到实际上有很多兴趣和兴奋点、愿意尝试新事物的领域，因为人们认识到，如果应用得当，并配备正确的护栏和保障措施，这些技术从资源使用、人身安全、生产力的角度来看，确实具有真正的变革潜力。

我认为该领域的考量已经有所转变，变成了我们确实想要尝试这些东西。但接下来问题就更多是，我们如何在可以稍微更沙盒化或更安全的环境中进行这些尝试，以测试我们在工业领域将面临的一些独特挑战？

Megan：是的，绝对如此。如今很难忽视这种潜力，不是吗？最后，我想以一个稍微前瞻性的视角来收尾，就负责任的自主工业 AI 系统的长期潜力而言，你最感到兴奋的是什么？

Arti：是的。嗯，我认为会有几种不同的发展轨迹。我认为在未来 18 个月内，我们肯定会看到越来越多拥有深厚领域专业知识、但可能并非软件背景出身的人，能够采用 AI 辅助编码技术，真正构建出他们以前无法构建的东西。

这在我的职业生涯中真的令人兴奋。回想当年我实际上还是一名工业数据科学家时，我会说，我总是感到最有活力、学到最多的时候，就是与运营一线的人员交谈，他们必须监控大量不同的设备，并理解这一切是如何协同工作的。他们确实拥有很多专业知识，而能够把快速开发新应用的能力交到他们手中，我认为这将真正带来许多新想法，而我们工业软件领域的许多人可能甚至从未想到过，也真的不知道该如何实现。我认为这真的非常令人兴奋。

我想，再往后看，我有点算是个机器人怀疑论者——倒不是说我不相信，因为很明显，机器人技术和自主系统将会变得很重要，尤其是考虑到工业设备所处的各种环境，无论是危险环境还是偏远环境。但我其实觉得，事情的发展比我预想的要快得多。我非常想看看这些AI系统的物理实体将如何真正开始改变——再次改变——我们对运营的思考方式。

在任何环境中，任何新技术都面临这样一个问题：要真正从中获得价值，你必须改变做事的方式。我想说，近10年来，我一直在做关于AI应用的演讲，我总是说，AI应用的最大障碍与技术无关。甚至与数据也无关，尽管数据往往是最关键的症结所在，真正的障碍在于：你是否愿意改变你的业务流程，以适应这项技术擅长或不擅长的事情？

自主系统，无论是机器人还是无人机，都将真正改变我们在工厂、电力系统和矿场的工作方式。我认为这将使这类运营更高效、对参与其中的人员更安全，并且生产力更高。所以，我对此非常兴奋。

我不完全知道它会走向哪个方向，但我经常思考的一件事是，如果你回顾艾萨克·阿西莫夫的《我，机器人》，那些书的前提是机器人技术将成为第一个被广泛采用的AI，而不是基于计算机的系统。我们走的是另一个方向，而我认为现在看到所有这些正在融合，真的非常有趣。

Megan：是的，绝对如此。看机器人技术有点赶上来了。地平线上有那么多令人兴奋的事情，这是肯定的。非常感谢你抽出时间。

刚才那是Arti Garg，AVEVA的首席技术官，我在英格兰布莱顿与她进行了交谈。

这就是本期Business Lab的全部内容。我是你的主持人Megan Tatum。我是Insights的特约编辑，Insights是MIT Technology Review的定制出版部门。我们于1899年在麻省理工学院成立，你可以在印刷品、网络上以及每年世界各地的活动中找到我们。想了解更多关于我们和本节目的信息，请访问我们的网站technologyreview.com。

本节目可在你获取播客的任何地方收听。如果你喜欢我们，希望你能花点时间给我们评分和评论。Business Lab是MIT Technology Review的制作，本期节目由Giro Studios制作。非常感谢你的收听。再见。

了解更多信息，请访问aveva.com。

本内容由Insights制作，Insights是MIT Technology Review的定制内容部门，而非其编辑团队。内容由人类研究和撰写，可能使用的任何AI工具仅限于在人类监督下的生产流程。