The expressive power of Bayesian kernel-based methods has led them to become an important tool across many different facets of artificial intelligence, and useful to a plethora of modern application domains, providing both power and interpretability via uncertainty analysis. This article introduces and discusses two methods which straddle the areas of probabilistic Bayesian schemes and kernel methods for regression: Gaussian Processes and Relevance Vector Machines. Our focus is on developing a common framework with which to view these methods, via intermediate methods a probabilistic version of the well-known kernel ridge regression, and drawing connections among them, via dual formulations, and discussion of their application in the context of major tasks: regression, smoothing, interpolation, and filtering. Overall, we provide understanding of the mathematical concepts behind these models, and we summarize and discuss in depth different interpretations and highlight the relationship to other methods, such as linear kernel smoothers, Kalman filtering and Fourier approximations. Throughout, we provide numerous figures to promote understanding, and we make numerous recommendations to practitioners. Benefits and drawbacks of the different techniques are highlighted. To our knowledge, this is the most in-depth study of its kind to date focused on these two methods, and will be relevant to theoretical understanding and practitioners throughout the domains of data-science, signal processing, machine learning, and artificial intelligence in general.

基于贝叶斯内核方法的表达能力已使它们成为跨越人工智能的多个不同方面的重要工具，并且对众多现代应用程序领域都非常有用，它通过不确定性分析提供了强大的功能和可解释性。本文介绍并讨论了两种跨越概率贝叶斯方案和用于回归的核方法的方法：高斯过程和相关性向量机。我们的重点是开发一个通用的框架，通过这些框架，可以通过中间方法来查看这些方法，即采用已知版本的内核岭回归的概率版本，并通过对偶表示法来画出它们之间的联系，并讨论它们在主要领域中的应用。任务：回归，平滑，插值和过滤。全面的，我们提供了对这些模型背后的数学概念的理解，并深入总结和讨论了不同的解释，并强调了与其他方法的关系，例如线性核平滑器，卡尔曼滤波和傅立叶逼近。在整个过程中，我们提供了大量的数字来促进理解，并且向从业人员提出了许多建议。突出显示了不同技术的优缺点。据我们所知，这是迄今为止针对这两种方法的最深入的研究，将与整个数据科学，信号处理，机器学习和人工智能领域的理论理解和实践者相关。一般的。我们将深入总结和讨论不同的解释，并强调与其他方法的关系，例如线性核平滑器，卡尔曼滤波和傅立叶逼近。在整个过程中，我们提供了大量的数字来促进理解，并且向从业人员提出了许多建议。突出显示了不同技术的优缺点。据我们所知，这是迄今为止针对这两种方法的最深入的研究，将与整个数据科学，信号处理，机器学习和人工智能领域的理论理解和实践者相关。一般的。我们将深入总结和讨论不同的解释，并强调与其他方法的关系，例如线性核平滑器，卡尔曼滤波和傅立叶逼近。在整个过程中，我们提供了大量的数字来促进理解，并且向从业人员提出了许多建议。突出显示了不同技术的优缺点。据我们所知，这是迄今为止针对这两种方法的最深入的研究，将与整个数据科学，信号处理，机器学习和人工智能领域的理论理解和实践者相关。一般的。我们向从业人员提出了许多建议。突出显示了不同技术的优缺点。据我们所知，这是迄今为止针对这两种方法的最深入的研究，将与整个数据科学，信号处理，机器学习和人工智能领域的理论理解和实践者相关。一般的。我们向从业人员提出了许多建议。突出显示了不同技术的优缺点。据我们所知，这是迄今为止针对这两种方法的最深入的研究，将与整个数据科学，信号处理，机器学习和人工智能领域的理论理解和实践者相关。一般的。