当前位置: X-MOL 学术Found. Comput. Math. › 论文详情
Our official English website, www.x-mol.net, welcomes your feedback! (Note: you will need to create a separate account there.)
Deep Composition of Tensor-Trains Using Squared Inverse Rosenblatt Transports
Foundations of Computational Mathematics ( IF 3 ) Pub Date : 2021-09-21 , DOI: 10.1007/s10208-021-09537-5
Tiangang Cui 1 , Sergey Dolgov 2
Affiliation  

Characterising intractable high-dimensional random variables is one of the fundamental challenges in stochastic computation. The recent surge of transport maps offers a mathematical foundation and new insights for tackling this challenge by coupling intractable random variables with tractable reference random variables. This paper generalises the functional tensor-train approximation of the inverse Rosenblatt transport recently developed by Dolgov et al. (Stat Comput 30:603–625, 2020) to a wide class of high-dimensional non-negative functions, such as unnormalised probability density functions. First, we extend the inverse Rosenblatt transform to enable the transport to general reference measures other than the uniform measure. We develop an efficient procedure to compute this transport from a squared tensor-train decomposition which preserves the monotonicity. More crucially, we integrate the proposed order-preserving functional tensor-train transport into a nested variable transformation framework inspired by the layered structure of deep neural networks. The resulting deep inverse Rosenblatt transport significantly expands the capability of tensor approximations and transport maps to random variables with complicated nonlinear interactions and concentrated density functions. We demonstrate the efficiency of the proposed approach on a range of applications in statistical learning and uncertainty quantification, including parameter estimation for dynamical systems and inverse problems constrained by partial differential equations.



中文翻译:

使用平方逆 Rosenblatt 传输的张量序列的深层组合

表征难以处理的高维随机变量是随机计算的基本挑战之一。最近交通地图的激增为通过将难以处理的随机变量与易于处理的参考随机变量相结合来应对这一挑战提供了数学基础和新见解。本文概括了 Dolgov 等人最近开发的逆 Rosenblatt 传输的函数张量-训练近似。(Stat Comput 30:603–625, 2020) 到多种高维非负函数,例如非归一化概率密度函数。首先,我们扩展了逆 Rosenblatt 变换,使传输能够传输到除统一度量之外的一般参考度量。我们开发了一种有效的程序来从保持单调性的平方张量序列分解中计算这种传输。更重要的是,我们将所提出的保序功能张量训练传输集成到一个嵌套的变量转换框架中,该框架受到深度神经网络分层结构的启发。由此产生的深度逆 Rosenblatt 传输显着扩展了张量近似和传输映射到具有复杂非线性相互作用和集中密度函数的随机变量的能力。我们证明了所提出的方法在统计学习和不确定性量化的一系列应用中的效率,包括动态系统的参数估计和受偏微分方程约束的逆问题。我们将提出的保序功能张量训练传输集成到嵌套变量转换框架中,其灵感来自于深度神经网络的分层结构。由此产生的深度逆 Rosenblatt 传输显着扩展了张量近似和传输映射到具有复杂非线性相互作用和集中密度函数的随机变量的能力。我们证明了所提出的方法在统计学习和不确定性量化的一系列应用中的效率,包括动态系统的参数估计和受偏微分方程约束的逆问题。我们将提出的保序功能张量训练传输集成到嵌套变量转换框架中,其灵感来自于深度神经网络的分层结构。由此产生的深度逆 Rosenblatt 传输显着扩展了张量近似和传输映射到具有复杂非线性相互作用和集中密度函数的随机变量的能力。我们证明了所提出的方法在统计学习和不确定性量化的一系列应用中的效率,包括动态系统的参数估计和受偏微分方程约束的逆问题。由此产生的深度逆 Rosenblatt 传输显着扩展了张量近似和传输映射到具有复杂非线性相互作用和集中密度函数的随机变量的能力。我们证明了所提出的方法在统计学习和不确定性量化的一系列应用中的效率,包括动态系统的参数估计和受偏微分方程约束的逆问题。由此产生的深度逆 Rosenblatt 传输显着扩展了张量近似和传输映射到具有复杂非线性相互作用和集中密度函数的随机变量的能力。我们证明了所提出的方法在统计学习和不确定性量化的一系列应用中的效率,包括动态系统的参数估计和受偏微分方程约束的逆问题。

更新日期:2021-09-22
down
wechat
bug