机器学习在流体力学中的应用

流体力学传统上要处理大量的实验、现场测量和大规模数值模拟数据。过去十年来，由于高性能计算架构和实验测量能力的进步，大数据在流体力学领域已成为现实(Pollard et al. 2016)。在过去的50年里，许多处理流体流动数据的技术得到了发展，从数据处理和压缩的先进算法，到湍流流场数据库(Perlman等，2007;Wu & Moin 2008)。然而，流体力学数据的分析在很大程度上依赖于领域专业知识、统计分析和启发式算法。

今天，大量的数据广泛分布在各个科学学科中，从这些数据中获得洞察力和可操作的信息已经成为一种新的科学探究模式和商业机会。我们这一代人正在经历一个前所未有的融合:1)海量且不断增加的数据量;2)计算硬件的进步和计算、数据存储和传输成本的降低;3)强大的算法;4)行业在数据驱动的问题解决上进行大量和持续的投资。这些进展反过来又激发了人们对机器学习(ML)领域的兴趣和进展。机器学习算法(这里分为有监督学习、半监督学习和无监督学习，见图1)正在流体力学领域迅速取得进展。机器学习提供了一个模块化和敏捷的建模框架，可以定制来解决流体力学中的许多挑战，如降阶建模、实验数据处理、形状优化、湍流关闭和控制。随着科学研究越来越多地从基本原理转向数据驱动的方法，我们可以将当前机器学习的努力与20世纪40年代和50年代解决流体动力学方程的数值方法的发展进行比较。流体力学将从学习算法中受益，同时也带来了挑战，这些挑战可能会进一步推进这些算法，以补充人类的理解和工程直觉。

在这篇综述中，除了概述成功之外，我们还强调了理解学习算法如何工作以及这些方法成功或失败的重要性。机器学习在流体力学中的应用是一个开放且具有挑战性的领域，平衡这一现实对机器学习能力的兴奋是很重要的。在此背景下，我们也强调将流体力学领域知识融入学习算法的好处。我们设想流体力学领域可以对机器学习的进步作出贡献，让人想起上个世纪在数值方法上的进步。

机器学习和流体动力学在接口方面有着悠久的共同历史，这可能令人惊讶。在20世纪40年代早期，统计学习理论的创始人之一Kolmogorov将湍流作为其主要应用领域之一(Kolmogorov 1941)。在20世纪50年代和60年代，机器学习的发展以两个截然不同的发展为特征。一方面，我们将控制论(Wiener 1965)和专家系统区分开来，这些专家系统旨在模拟人类大脑的思维过程，另一方面，我们将感知器(Rosenblatt 1958)等“机器”区分开来，旨在自动化分类和回归等过程。第二分支的进展今天也很普遍，可以理解感知器分类的使用如何给人工智能带来了巨大的便利。

机器学习算法可以分为有监督、无监督和半监督，这取决于学习过程中可用信息的范围和类型。

(人工智能)在50年代早期。然而，这种兴奋被它们的能力有严重局限性的发现所扑灭(Minsky & Papert 1969):单层感知器只能学习线性可分函数，而不能学习异或函数。众所周知，多层感知器可以学习异或函数，但考虑到当时的计算资源(机器学习研究中的一个反复出现的主题)，它们的进步可能是有限的。人们对感知器兴趣的降低很快就伴随着对人工智能兴趣的普遍降低。

机器学习的另一个分支与20世纪60年代初萌芽中的控制论思想密切相关，是由两名研究生开创的：柏林工业大学的Ingo Rechenberg和Hanspaul Schwefel。他们在风洞中对由5个连接板组成的波纹结构进行了实验，目的是找到它们的最佳角度来减少整体阻力(见图2)。他们的突破包括在这些角度上增加随机变化，其中随机性是使用Galton板(一个“模拟”随机数生成器)产生的。最重要的是，方差的大小是基于实验的成功率(正/负)学习(增加/减少)的。Rechenberg和Schwefel的工作几乎没有得到认可，尽管在过去的几十年里，流体力学和空气动力学中的大量应用都使用了可以追溯到他们工作的想法。20世纪80年代初，随着计算流体力学的早期发展，人们对人工智能在空气动力学应用中的潜力重新产生了兴趣。人们关注的是帮助空气动力学设计和开发过程的专家系统(Mehta&Kutler，1984)。

流体力学和机器学习之间的一个间接联系是1974年所谓的“莱特希尔报告”，该报告批评英国的人工智能项目没有实现它们的宏伟目标。这份报告在英国以及随后的美国对人工智能投资和兴趣的减少中发挥了重要作用，这被称为人工智能冬季。莱特希尔的主要论点是基于他的看法，即AI永远无法解决参数空间中可能配置之间的组合爆炸的挑战。他将当时语言处理系统的局限性作为人工智能失败的关键例证。在莱特希尔的辩护中，40年前我们今天所知道的现代计算机的能力可能很难理解。事实上，今天人们可以在互联网上观看莱特希尔对抗人工智能的演讲，而机器学习算法会自动提供字幕。

随着反向传播算法的发展，人们对机器学习，尤其是神经网络的兴趣在20世纪80年代末重新觉醒(Rumel- hart et al. 1986)。这使得多层神经网络的训练成为可能

图2在实验流体力学中学习和自动化的第一个例子是:Rechenberg的实验，使用Galtonbrett (Galton板)作为模拟随机数发生器(Rechenberg 1964年)来优化波纹板的减阻效果。

虽然在早期，最多两层是正常的。另一个刺激源是另一个刺激因素是Hopfield(1982)、Gardner(1988)、Hinton&Sejnowski(1986)的工作，他们开发了机器学习算法和统计力学之间的联系。然而，这些发展并没有吸引很多流体力学的研究者。

20世纪90年代早期，在粒子跟踪测速(PTV)和粒子图像测速(PIV)的轨迹分析和分类的背景下，神经网络在流体相关问题上的大量应用得到了发展(Teo等人，1991年;Grant和Pan 1995年)以及识别多相流中的相结构(Bishop和James 1993年)。利用POD和线性神经网络(Baldi & Hornik 1989)之间的联系，利用壁面信息重建湍流流场和通道流近壁面区域的流动(Milano & Koumoutsakos 2002)。该应用程序引入了多层神经元以改善压缩结果，这可能标志着深度学习在流体力学领域的首次应用。

在过去的几年里，我们经历了机器学习在流体力学中的应用重新开花结果。这种兴趣在很大程度上归因于深度学习体系结构的显著性能，它分层地从数据中提取信息特征。这导致了数据丰富和模型有限领域(如社会科学)的若干进展，以及预测是关键财务因素的公司。流体力学不受模型限制，正迅速成为一个数据丰富的领域。我们认为，这种基本原理和数据驱动方法的结合是独一无二的，有可能改变流体力学和机器学习。

流体动力学提出的挑战不同于机器学习的许多应用，如图像识别和广告。在流体流动中，为了分析它们，精确地量化其潜在的物理机制往往是重要的。此外，流体流动涉及复杂的、多尺度的现象，对这些现象的理解和控制在很大程度上仍未得到解决。非定常流场需要能够处理非线性和多个时空尺度的算法，而这些可能在流行的机器学习算法中不存在。此外，机器学习的许多重要应用，如玩视频游戏，依赖于廉价的系统评估和必须学习的过程的详尽分类。但在流体中情况就不同了，在流体中，实验可能很难重复或自动化，模拟可能需要大型超级计算机长时间运行。

机器学习也已成为机器人技术的重要工具，强化学习等算法经常被用于自动驾驶和飞行。虽然许多机器人在流体中工作，但流体动力学的微妙之处似乎并不是目前机器人设计的主要关注点。让人想起飞行的先驱时代，解决方案模仿自然的形式和过程通常是常态(参见边栏“学习流体力学:从活的有机体到机器”)。我们相信，当机器人设备在复杂流体环境中的能量消耗和可靠性成为一个问题时，对流体力学的深入理解和开发将成为机器人设备设计的关键。

在流量控制的背景下，主动或被动地控制流量动力学可能会改变系统的性质，从而不可能基于非受控系统的数据进行预测。虽然流动数据在某些维度(如空间分辨率)中是巨大的，但在其他维度中可能是稀疏的;例如，进行参数研究可能是昂贵的。此外，流体数据可能是高度不均匀的，在选择学习机器的类型时需要特别小心。此外，许多流体系统是非平稳的，甚至对于平稳的流动，要获得统计收敛的结果可能是非常昂贵的。

流体动力学对于交通、卫生和国防系统至关重要，因此，机器学习解决方案必须具有可解释性、可解释性和可推广性。此外，经常需要对业绩提供保证，而这在目前是很少见的。事实上，许多机器学习算法都缺乏收敛结果、分析和保证。同样重要的是要考虑该模型是用于参数范围内的插值还是用于外推，这是相当具有挑战性的。最后，我们强调了交叉验证对保留数据集的重要性，以防止机器学习中的过拟合。

我们建议，这一非详尽无遗的挑战清单不必成为障碍;相反，它应该为开发更有效的机器学习技术提供强大的动力。如果这些技术能够解决流体力学问题，它们可能会影响许多学科。例如，将机器学习应用于已知物理系统(如流体力学)，可能会为这些算法的有效性提供更深入的理论见解。我们还相信，结合机器学习和第一性原理模型的混合方法将是一片沃土

学习流体力学:从生命体到机器

鸟类、蝙蝠、昆虫、鱼类和其他水生和空中的生命形式，都表现出非凡的流体操纵技艺。它们优化和控制它们的形状和运动，以利用非定常流体力量进行敏捷推进、高效迁移和其他机动。在生物学中观察到的流体优化和控制的范围启发了人类数千年。这些生物是如何学会控制流动环境的?

到目前为止，通过纳维尔-斯托克斯方程的知识，我们只知道一种能操纵流体的物种。从有记载的历史开始之前，人类就一直在创新和设计利用流体的设备，从水坝和灌溉，到磨坊和航海。早期的努力是通过直观设计实现的，尽管最近的定量分析和基于物理的设计使性能在过去的一百年里发生了革命。事实上，流体系统的物理工程是人类成就的最高标志。然而，基于流体方程的分析存在着严重的挑战，包括高维和非线性，这些挑战阻碍了封闭形式的解，限制了实时优化和控制工作。在新千年伊始，随着机器学习和数据驱动优化工具的日益强大，我们再次学习如何从经验中学习。

学习问题:学习机使用来自样本生成器的输入和来自系统的观察来生成其输出的近似值。符号:x -输入p(x) -输入y -输出y的概率分布ˆ-估计输出，给定输入x w -学习机的参数φ (x, y, w) -学习机的结构p(y|x) -给定输入x的输出概率

为发展。