In this paper, we propose a refinement strategy to the well-known Physics-Informed Neural Networks (PINNs) for solving partial differential equations (PDEs) based on the concept of Optimal Transport (OT). Conventional black-box PINNs solvers have been found to suffer from a host of issues: spectral bias in fully-connected architectures, unstable gradient pathologies, as well as difficulties with convergence and accuracy. Current network training strategies are agnostic to dimension sizes and rely on the availability of powerful computing resources to optimize through a large number of collocation points. This is particularly challenging when studying stochastic dynamical systems with the Fokker-Planck-Kolmogorov Equation (FPKE), a second-order PDE which is typically solved in high-dimensional state space. While we focus exclusively on the stationary form of the FPKE, positivity and normalization constraints on its solution make it all the more unfavorable to solve directly using standard PINNs approaches. To mitigate the above challenges, we present a novel training strategy for solving the FPKE using OT-based sampling to supplement the existing PINNs framework. It is an iterative approach that induces a network trained on a small dataset to add samples to its training dataset from regions where it nominally makes the most error. The new samples are found by solving a linear programming problem at every iteration. The paper is complemented by an experimental evaluation of the proposed method showing its applicability on a variety of stochastic systems with nonlinear dynamics.

中文翻译：

---

基于最优传输的物理信息神经网络优化

在本文中，我们基于最佳运输（OT）的概念，为求解偏微分方程（PDE）的著名物理信息神经网络（PINN）提出了一种改进策略。已经发现传统的黑盒PINN解算器存在许多问题：完全连接的体系结构中的频谱偏差，不稳定的梯度病理以及收敛和准确性方面的困难。当前的网络培训策略与尺寸大小无关，并且依赖强大的计算资源的可用性来通过大量搭配点进行优化。当使用Fokker-Planck-Kolmogorov方程（FPKE）（通常在高维状态空间中求解的二阶PDE）研究随机动力系统时，这尤其具有挑战性。尽管我们只关注FPKE的固定形式，但其解决方案的正定性和规范化约束使其更不适合直接使用标准PINN方法求解。为了缓解上述挑战，我们提出了一种新颖的培训策略，用于使用基于OT的采样来补充现有PINN框架来解决FPKE。这是一种迭代方法，可以使在小型数据集上训练的网络从名义上误差最大的区域向其训练数据集添加样本。通过在每次迭代中解决线性规划问题来找到新的样本。本文通过对所提出方法的实验评估进行了补充，表明该方法在具有非线性动力学的多种随机系统上的适用性。解决方案的积极性和规范化约束使其更不适合直接使用标准PINN方法求解。为了缓解上述挑战，我们提出了一种新颖的培训策略，用于使用基于OT的采样来补充现有PINN框架来解决FPKE。这是一种迭代方法，可以使在小型数据集上训练的网络从名义上误差最大的区域向其训练数据集添加样本。通过在每次迭代中解决线性规划问题来找到新的样本。本文通过对所提出方法的实验评估进行了补充，表明该方法在具有非线性动力学的多种随机系统上的适用性。解决方案的积极性和规范化约束使其更不适合直接使用标准PINN方法求解。为了缓解上述挑战，我们提出了一种新颖的培训策略，用于使用基于OT的采样来补充现有PINN框架来解决FPKE。这是一种迭代方法，可以使在小型数据集上训练的网络从名义上误差最大的区域向其训练数据集添加样本。通过在每次迭代中解决线性规划问题来找到新的样本。本文通过对所提出方法的实验评估进行了补充，表明该方法在具有非线性动力学的多种随机系统上的适用性。我们提出了一种新颖的训练策略，用于使用基于OT的采样来解决FPKE，以补充现有的PINNs框架。这是一种迭代方法，可以使在小型数据集上训练的网络从名义上误差最大的区域向其训练数据集添加样本。通过在每次迭代中解决线性规划问题来找到新的样本。本文通过对所提出方法的实验评估进行了补充，表明该方法在具有非线性动力学的多种随机系统上的适用性。我们提出了一种新颖的训练策略，用于使用基于OT的采样来解决FPKE，以补充现有的PINNs框架。这是一种迭代方法，可以使在小型数据集上训练的网络从名义上误差最大的区域向其训练数据集添加样本。通过在每次迭代中解决线性规划问题来找到新的样本。本文通过对所提出方法的实验评估进行了补充，表明该方法在具有非线性动力学的多种随机系统上的适用性。通过在每次迭代中解决线性规划问题来找到新的样本。本文通过对所提出方法的实验评估进行了补充，表明该方法在具有非线性动力学的多种随机系统上的适用性。通过在每次迭代中解决线性规划问题来找到新的样本。本文通过对所提出方法的实验评估进行了补充，表明该方法在具有非线性动力学的多种随机系统上的适用性。