跳到正文
RadarAI· MIT News(RSS)·· 23 小时前AI 评分58

MIT LIDS 提出硬约束神经网络,让混沌系统 AI 模型预测始终有界

AI 导读

MIT LIDS 团队提出硬约束神经网络方法,让模型学习能量类函数并加入投影层强制能量耗散,从理论上保证混沌系统预测在任意长预测窗口内保持有界。该研究称这是首个为混沌机器学习模型建立此类形式化保证的工作,测试覆盖从教科书案例到高维复杂系统,结果与真实演化高度吻合,而传统方法很快偏离为不可能预测。论文发表于 PNAS,代码与数据已免费开放,投影层与模型无关,可适配不同神经网络架构。

正文 · AI 翻译

MIT News· David Chandler | 信息与决策系统实验室·2026-11-21 04:00· 3 小时前AI 评分47

新方法使混沌系统的 AI 模型保持物理一致性

AI 导读

MIT LIDS 团队提出一种硬约束神经网络方法,通过让模型学习能量类函数并加入投影层强制能量耗散,从理论上保证混沌系统预测在任意长的时间窗口内保持有界。该研究首次为混沌机器学习模型建立此类形式化保证,测试覆盖从教科书案例到高维复杂系统,结果与真实演化高度吻合,而传统方法很快偏离为不可能预测。相关数据已免费开放,论文发表于 PNAS。

正文 · 原文

近年来,对天气和气候模式以及航空或洋流中的湍流等复杂混沌过程的建模已取得巨大进展。然而,此类模型仍容易随时间漂移,产生物理上不可能的预测。

如今,MIT 信息与决策系统实验室(LIDS)的研究人员找到了一种方法,可对机器学习模型施加基于物理的限制,从而确保此类模型永远不会超出基于现实世界实际可能性的合理边界。这一新方法使用了团队现已免费公开的信息,有望显著提升此类模型的实用性和可靠性;除气候和天气外,这些模型还广泛应用于各类工业过程、航空和水文学领域。

这项新发现已发表于《美国国家科学院院刊》(PNAS),论文作者为 MIT 研究生 Sunbochen Tang 以及 MIT 教授 Navid Azizan 和 Themistoklis Sapsis。 

“对有界响应缺乏保证,一直是构建复杂非线性系统数据驱动模型的主要障碍,”Sapsis 说道,他是机械工程教授兼 LIDS 附属成员。他表示,团队开发的这一方法“为将最先进的机器学习架构应用于众多现实问题的预测与控制铺平了道路,即使是那些具有内在不稳定性的问题。”

为复杂动力系统开发可靠模型在许多领域都至关重要。 在流体动力学中,湍流可能扰乱航空旅行、降低风力涡轮机的效率,并影响车辆的燃油经济性。同样,在天气预报中,大气动力学的混沌特性使准确的长期预测变得困难。 

“初始条件的微小差异可能导致混沌系统产生截然不同的结果,”Azizan 说道。“这使得对其未来行为的预测变得极其困难。”然而,现实世界中可能发生的变化始终受到物理约束。

“混沌并不意味着任何事情都可能发生。这些系统通常保持有界,其模型也应如此。”但如何将这些边界引入模型一直是个棘手的问题,Azizan 说道,他是机械工程系以及数据、系统与社会研究所的 Hayes 副教授,也是 LIDS 的首席研究员。

“模型可以在短期内与数据吻合,但当你让它长时间运行时仍会失败,”他说道。“小误差会不断累积,直到模拟产生无限增长的值”,从而产生在真实系统中永远不可能发生的预测。

“这是许多现有机器学习模型的一个根本性问题,”他说,“这是一个在不同领域频繁出现的问题:我们如何将物理约束嵌入这些模型,既能保持其灵活性,又能确保输出具有物理意义?”

“我们希望保留混沌特性,同时避免真实系统并不具有的人为失控行为,”他说,“我们的方法为模型留出了学习复杂动力学的空间,同时保证其轨迹保持有界。”这是首个为混沌的机器学习模型建立此类形式化保证的工作。

此前防止此类模型产生不切实际结果的尝试,往往基于“在训练期间施加惩罚或激励”,航空与航天系及LIDS的博士生Tang说,所用函数通常基于关于系统的特权信息设计。但由于这些只在模型的训练过程中起作用,“无法保证模型在实际使用中处理新输入时,在测试时仍能满足此类激励所意图的底层约束”。“模型仍可能产生无界的预测,”他说。

为了说明为什么仅仅施加任意限制并不能令人满意地解决预测稳定性问题,Tang解释道:“你可以对预测设上限,例如对物理量设定任意限制,比如温度100度。这是一种保持预测有界的方法,但它可能限制模型表达本应直接从数据中学到的复杂且非平凡的特征。”

他说,“我们方法的独特之处在于我们构建了基于能量的约束。我们让模型学习一个类能量函数”,其依据是真实世界的混沌系统,在这些系统中能量耗散有助于在复杂行为下保持轨迹有界。“具体而言,模型学习一个类能量函数,以及一个应将其混沌行为限制于其中的边界。然后我们添加一个投影层——一个调整模型对系统演化预测的组件——以将能量耗散作为硬约束强制执行。在该边界之外,类能量量必须减少,因此模拟系统会被拉向有界区域。这样,我们就能建立理论保证,使模型预测在任意长的预测窗口内保持有界。”

团队在从简单的教科书案例到高度复杂的多维系统等各种不同的著名物理系统上测试了他们的方法,发现其方法与真实结果高度吻合,而传统方法很快就偏离为不可能的预测。

Azizan补充说,“我们的方法与现有方法的根本区别在于我们所说的硬约束与软约束。”虽然当前许多方法“试图激励模型满足约束,但这些约束并未被视为硬约束。我们的方法基于硬约束神经网络的概念”,因此输出“始终在物理上一致,即使这是模型从未见过的全新情况。”

“AI 模型在拥有大量可用数据的场景中表现出色,”Azizan 说,例如图像或文本,这两者在互联网上都非常丰富。然而,他说,“对于许多物理系统,数据并不那么丰富。”对于数据有限的这类情况,他说,“这些受物理约束的方法可以大有帮助,因为问题的物理特性是另一个信息来源。”

这种新方法对任何混沌系统都广泛有用。“这很容易适用于广泛的神经网络架构,”Tang 说。他们计划继续在越来越大的系统上测试它。“我们正试图看看这在现实天气系统的数据驱动模型上能发挥多大作用。”

“投影层是模块化的:它与模型无关,可以与不同的神经网络架构配合使用,”Azizan 说。“我们希望其他研究人员和从业者能在此基础上继续发展,并在更大、更复杂的问题上测试它。”该论文连同开源代码现已在 PNAS 上线。

该团队成员今年的一项后续工作在 Learning for Dynamics and Control 会议上进行了展示。该论文获得了会议的最佳论文奖。

“可信且可靠的人工智能需要的不仅仅是模型通常有效的证据,”Azizan 说。“对于高风险应用,你需要关于必须始终成立的属性的保证。在这项工作中,我们建立了这样一个保证:有界性。我们更广泛的目标是让原则成为 AI 模型构建方式的一部分,而不仅仅是测试方式的一部分。”

来源:MIT News · news.mit.edu

来源:RadarAI · aihot.news