Abstract

Linear mixed-effects models play a fundamental role in statistical methodology. A variety of Markov chain Monte Carlo (MCMC) algorithms exist for fitting these models, but they are inefficient in massive data settings because every iteration of any such MCMC algorithm passes through the full data. Many divide-and-conquer methods have been proposed to solve this problem, but they lack theoretical guarantees, impose restrictive assumptions, or have complex computational algorithms. Our focus is one such method called the Wasserstein Posterior (WASP), which has become popular due to its optimal theoretical properties under general assumptions. Unfortunately, practical implementation of the WASP either requires solving a complex linear program or is limited to one-dimensional parameters. The former method is inefficient and the latter method fails to capture the joint posterior dependence structure of multivariate parameters. We develop a new algorithm for computing the WASP of multivariate parameters that is easy to implement and is useful for computing the WASP in any model where the posterior distribution of parameter belongs to a location-scatter family of probability measures. The algorithm is introduced for linear mixed-effects models with both implementation details and theoretical properties. Our algorithm outperforms the current state-of-the-art method in inference on the functions of the covariance matrix of the random effects across diverse numerical comparisons. Supplemental materials for this article are available online.

摘要

线性混合效应模型在统计方法中发挥着重要作用。存在多种用于拟合这些模型的马尔可夫链蒙特卡罗 (MCMC) 算法，但它们在海量数据设置中效率低下，因为任何此类 MCMC 算法的每次迭代都会通过完整数据。已经提出了许多分而治之的方法来解决这个问题，但它们缺乏理论保证，强加了限制性假设，或者具有复杂的计算算法。我们的重点是一种称为 Wasserstein 后验法 (WASP) 的方法，该方法因其在一般假设下的最佳理论特性而变得流行。不幸的是，WASP 的实际实现要么需要求解复杂的线性程序，要么仅限于一维参数。前一种方法效率低下，后一种方法无法捕捉多元参数的联合后验依赖结构。我们开发了一种计算多元参数 WASP 的新算法，该算法易于实现，可用于在任何模型中计算 WASP，其中参数的后验分布属于概率度量的位置散射族。该算法是针对具有实现细节和理论特性的线性混合效应模型引入的。我们的算法在对不同数值比较的随机效应的协方差矩阵的函数进行推断方面优于当前最先进的方法。本文的补充材料可在线获取。我们开发了一种计算多元参数 WASP 的新算法，该算法易于实现，可用于在任何模型中计算 WASP，其中参数的后验分布属于概率度量的位置散射族。该算法被引入具有实现细节和理论特性的线性混合效应模型。我们的算法在对不同数值比较的随机效应的协方差矩阵的函数进行推断方面优于当前最先进的方法。本文的补充材料可在线获取。我们开发了一种计算多元参数 WASP 的新算法，该算法易于实现，可用于在任何模型中计算 WASP，其中参数的后验分布属于概率度量的位置散射族。该算法是针对具有实现细节和理论特性的线性混合效应模型引入的。我们的算法在对不同数值比较的随机效应的协方差矩阵的函数进行推断方面优于当前最先进的方法。本文的补充材料可在线获取。该算法是针对具有实现细节和理论特性的线性混合效应模型引入的。我们的算法在对不同数值比较的随机效应的协方差矩阵的函数进行推断方面优于当前最先进的方法。本文的补充材料可在线获取。该算法是针对具有实现细节和理论特性的线性混合效应模型引入的。我们的算法在对不同数值比较的随机效应的协方差矩阵的函数进行推断方面优于当前最先进的方法。本文的补充材料可在线获取。