基于深度神经网络的模型用于近似线性和非线性算子胡锐
2022-07-05 12:36:28 宝众娱乐网
基于深度神经网络的模型，用于近似线性和非线性算子
人工神经网络是连续函数的高效近似器，连续函数的值没有突然变化。尽管许多研究已经探索了使用神经网络来逼近连续函数，但是到目前为止，它们对非线性算子的逼近能力很少得到研究。
布朗大学的研究人员最近开发了DeepONet，这是一种基于神经网络的新模型，可以学习线性和非线性算子该计算模型发表在《自然机器智能》上，该论文的灵感来自于复旦大学一个研究小组过去进行的一系列研究。
进行这项研究的研究人员之一George Em Karniadakis告诉TechXplore：“大约五年前，当我在课堂上教授微积分时，我问自己神经网络是否可以近似一个函数。我四处搜寻，却一无所获，直到有一天我偶然发现了Chen＆Chen在1993年发表的一篇论文，研究人员使用单层神经元实现了功能近似，最后，我还阅读了同一小组的另一篇论文。 “算子回归”是我们研究的起点。从那时起，陈T教授通过电子邮件与我联系，并感谢我发现了他被遗忘的论文。”
受复旦大学Chen和Chen论文的启发，Karniadakis决定探索开发一种可以近似线性和非线性算子的神经网络的可能性。他与一位博士讨论了这个想法。学生Lu Lu，他们开始开发DeepONet。
与近似神经网络的近似函数相反，DeepONet近似线性和非线性算子。该模型包括两个深神经网络：一个网络编码离散输入函数空间和一个编码的输出功能的域。本质上，DeepONet将函数作为输入，并将它们映射到输出空间中的其他函数。
Karniadakis说：“使用标准的神经网络，我们可以近似函数，将数据点作为输入并输出数据点。” “因此DeepOnet是查看神经网络的一种全新方法，因为它的网络可以代表所有已知的数学运算符，而且可以代表连续输出空间中的微分方程。”
一旦了解了给定的运算符，DeepONet即可比其他神经网络更快地完成操作并做出预测。在一系列初步评估中，Karniadakis和他的同事发现，它可以在不到一秒的时间内做出预测，即使是与非常复杂的系统有关的预测。
Karniadakis说：“ DeepONet对于自动驾驶汽车非常有用，因为它可以实时进行预测。” “它还可以用作模拟数字孪生，系统系统甚至复杂的社会动力系统的构建块。换句话说，经过大量的离线培训，我们开发的网络可以代表黑匣子复杂的系统。”
作为研究的一部分，研究人员研究了DeepONet输入函数空间的不同公式，并评估了这些公式对16种不同应用的泛化误差的影响。他们的发现很有前途，因为他们的模型可以隐式地获得各种线性和非线性算子。
将来，DeepONet可能具有广泛的应用范围。例如，它可以开发能够解决微积分问题或求解微分方程的机器人，以及响应速度更快和功能更先进的自动驾驶汽车。
“我现在正在与能源部以及许多行业的实验室合作，将DeepONet应用于复杂的应用程序，例如高超音速，气候建模，例如在南极洲的冰融化建模应用程序，以及许多设计应用程序。”