eubelle：利用机器学习和人工智能加快建模

Credit: AI-generated image

建模材料的新工具

由复合材料制成的热固性聚合物为我们提供了从混凝土桥梁加固到喷气式飞机机翼到玻璃纤维船体的一切，菲利普·格贝尔的任务是使用比传统方法更快、更便宜、更节能的方法制造这些复合材料。

Geubelle博士是伊利诺伊大学厄巴纳-香槟分校的Bliss工程教授和Grainger工程学院的执行副院长，他与该大学贝克曼研究所的跨学科自主材料系统小组合作，模拟正面聚合，这是一种利用化学反应将液体单体转化为固体聚合物的技术。

他说:“每当我们进行模拟时，都需要一段时间，因为在数值上很难捕捉到在结构中传播的锋面。”“有很多参数定义了这个过程。我们想知道如果我改变化学反应或者改变反应的温度会发生什么?如果我改变环境呢?”

该团队已经在创建该过程的计算机模型，但Geubelle认为利用机器学习可以加快建模速度。他求助于机器学习和人工智能专家云集的NCSA，以及伊利诺伊计算机公司(Illinois computers)。伊利诺伊计算机公司是一个将NCSA的计算和数据存储资源、技术专家和支持服务与伊利诺伊校园的研究人员相匹配的项目。

“我们利用了伊利诺伊计算机这个伟大的程序。该项目的主要目标是将校园内的研究人员与NCSA的研究人员配对，NCSA有一个非常优秀的团队，专注于机器学习和人工智能，包括使用机器学习来解决偏微分方程，这就是我们正在做的事情，”伊利诺伊大学厄巴纳-香槟分校的Bliss工程学教授兼Grainger工程学院执行副院长Geubelle博士说。

Geubelle和博士后研究助理刘奇邦与NCSA机械科学与工程技术副主任兼研究教授Seid Koric博士以及NCSA研究科学家Diab W. D. Abueidda合作。Koric领导的项目利用人工智能和机器学习的最新进展，帮助科学家运行模型，更快、更准确地找到答案。

他们首先训练人工神经网络，在类似人类大脑的分层结构中使用相互连接的节点，这是一种基于ml的深度学习过程，创造了在高性能计算机上运行的各种高级人工智能模型。通过向神经网络提供不同的训练数据值，模型通过实例学习，可以被训练来识别数据中的模式，找到联系，并预测结果。

“训练这些网络通常需要大量由经典数值方法生成的数据来减少预测误差，这在计算上是昂贵的，”Abueidda说。“但是，当这些网络得到适当的训练时，它们可以比传统的计算方法更快地推断出新的输入数据的结果。”

训练神经网络的突破

Koric和Abueidda开发了一种新颖的方法，通过监测直接从潜在的偏微分方程定义的误差的演变，减少精确训练神经网络所需的数据量。通过将网络的持续训练集中在从物理(控制方程)中获得的误差测量上，团队能够从模型中最不准确的区域找到并训练数据，从而大大减少了开发准确模型所需的训练数据。

“能够精确定位并专注于你需要改进的领域，可以在整个过程中大大加快速度，”科里奇说。“通过选择从物理洞察中获得的具有大误差的数据来输入系统，而不是盲目地生成大量数据，我们找到了一种减少生成大量训练数据需求的方法。”

Geubelle补充说:“如果你随机进行，我想说你正在解决的训练示例中可能有40%是无用的，因为它们并没有真正改善系统。你把所有的精力都投入到在误差较大的区域训练网络上。这就是这个过程的适应性。”

该团队使用NCSA的Delta超级计算机来运行其模型。该系统同时提供CPU和更快的GPU处理器，刘的努力之一是与NCSA合作，以适应为CPU和GPU编写的代码。到目前为止，这项合作已经在《物理化学杂志》上发表了一篇论文。该团队还获得了伊利诺伊计算机公司的另一轮支持，以继续他们的工作。

“我们正在打破孤岛，在伊利诺伊计算机公司的领导下真正有效地合作。每个人都把自己的专业知识带到工作中，我们正在通过机器学习、人工智能和高性能计算的力量解决具有挑战性或无法解决的问题。”

“我从CPU机器生成数据，然后将数据传输到GPU机器，”刘说。“这实际上需要一点时间，但对于神经网络，我们希望使用GPU机器，因为它们要快得多。”

正面聚合建模的ML方法也使团队能够更有效地检查和解决制造中的逆向问题，即找到一组工艺条件，这些条件由初始温度、树脂固化程度、热损失等变量决定，从而导致规定的制造模式。Geubelle说，解决相反的问题对于3D打印等工艺至关重要，因为这样就有可能将微观结构输入打印机，从而产生完整的宏观结构。

他说:“如果你告诉我，我需要什么样的微观结构才能做到这一点，我就可以把它寄给你，让人把它做出来。”“但要解决这个逆问题，你需要能够非常非常快地解决正向问题，这就是机器学习的用武之地。”

与NCSA合作开发的机器学习和人工智能以及新的自适应深度学习过程使Geubelle和他的团队能够在几秒钟内而不是几小时内模拟正面聚合问题。这种速度对于逆向设计是至关重要的，因为涉及到大量的参数。Geubelle说，他的团队已经在使用传统方法加速逆向设计的过程，但这个过程仍然太慢。

新颖的贡献和创新的循环

新项目将使团队能够继续使用新型人工神经网络(包括生成式人工智能方法)解决复合聚合物多尺度建模的挑战。它还将深入研究使用材料的目标设计作为输入并给出设计变量作为回报的工作。根据Koric的说法，这种“一次性”的逆模型比传统的逆建模方法要有效得多。

Koric说，随着ML模型和人工智能的不断成熟，NCSA开发的自适应训练框架可以应用于许多其他科学领域，包括各种工程学科、医学、地质和地震研究。

NCSA人工智能创新中心(CAII)主任Volodymyr Kindratenko指出，与Geubelle以及贝克曼研究所(Beckman Institute)更大的研究小组的合作，使伊利诺伊大学处于创新、协作的人工智能/机器学习研究的前沿。

“这项工作是我们所说的转化人工智能研究的一个很好的例子，”Kindratenko说。“Koric的团队采用现有的机器学习方法，并以新的方式使用它来解决科学领域的问题，这些问题甚至没有人认为是可能的。在此过程中，该团队以新颖的贡献推进了机器学习领域，并在机器学习和计算科学领域创造了一个创新循环。这项工作可以作为其他研究人员在各自领域效仿的蓝图。”

Koric说，该项目还打破了技术和科学专家分开工作的障碍。

“如果你看一下这类研究，人们通常分为两个阵营，”他说。“一方面，计算机科学家在人工智能和机器学习方面进行基础计算研究，另一方面，应用科学家和工程师正在使用传统的计算方法，但渴望通过人工智能/机器学习方法将他们的研究提升到一个新的水平。

“Koric的团队采用现有的机器学习方法，并以新的方式使用它来解决科学领域的问题，这些问题甚至没有人认为是可能的。在这样做的过程中，团队以新颖的贡献推进了机器学习领域，并在机器学习和计算科学领域创造了一个创新循环。”Kindratenko说。

“我们正在打破孤岛，在伊利诺伊计算机公司的领导下真正有效地合作。每个人都在发挥自己的专长，我们正在通过机器学习、人工智能和高性能计算的力量解决具有挑战性或无法解决的问题。”

NCSA行业合作伙伴项目主任Brendan McGinty指出，私营部门渴望加入人工智能的潮流，而NCSA的工作将人工智能的影响进一步推进。

McGinty说:“Koric博士和Geubelle博士进一步将人工智能纳入建模，更具体地说，是为了解决聚合物生产问题。“他们表明，通过将人工智能、建模和领域专业知识与高性能计算相结合，可以对模型进行更深入、更快的改进，从而最大限度地提升性能。在企业方面，这将转化为竞争力的提高和投资回报。”