We propose a new Monte Carlo method for sampling from multimodal distributions. The idea of this technique is based on splitting the task into two: finding the modes of a target distribution $\pi$ and sampling, given the knowledge of the locations of the modes. The sampling algorithm relies on steps of two types: local ones, preserving the mode; and jumps to regions associated with different modes. Besides, the method learns the optimal parameters of the algorithm while it runs, without requiring user intervention. Our technique should be considered as a flexible framework, in which the design of moves can follow various strategies known from the broad MCMC literature. In order to design an adaptive scheme that facilitates both local and jump moves, we introduce an auxiliary variable representing each mode and we define a new target distribution $\tilde{\pi}$ on an augmented state space $\mathcal{X}~\times~\mathcal{I}$, where $\mathcal{X}$ is the original state space of $\pi$ and $\mathcal{I}$ is the set of the modes. As the algorithm runs and updates its parameters, the target distribution $\tilde{\pi}$ also keeps being modified. This motivates a new class of algorithms, Auxiliary Variable Adaptive MCMC. We prove general ergodic results for the whole class before specialising to the case of our algorithm.

中文翻译：

---

针对多峰分布的自适应 MCMC 框架

我们提出了一种新的蒙特卡罗方法，用于从多峰分布中进行采样。这种技术的想法是基于将任务分成两部分：找到目标分布的模式 $\pi$ 和采样，给定模式位置的知识。采样算法依赖于两种类型的步骤：局部的，保留模式；并跳转到与不同模式相关的区域。此外，该方法在运行时学习算法的最佳参数，无需用户干预。我们的技术应该被视为一个灵活的框架，其中移动的设计可以遵循广泛的 MCMC 文献中已知的各种策略。为了设计一个便于本地和跳跃移动的自适应方案，我们引入了一个表示每种模式的辅助变量，并在增强状态空间 $\mathcal{X}~\times~\mathcal{I}$ 上定义了一个新的目标分布 $\tilde{\pi}$，其中 $\mathcal{ X}$ 是 $\pi$ 的原始状态空间，$\mathcal{I}$ 是模式集。随着算法运行并更新其参数，目标分布 $\tilde{\pi}$ 也不断被修改。这激发了一类新的算法，即辅助变量自适应 MCMC。在专门研究我们算法的情况之前，我们证明了整个类的一般遍历结果。这激发了一类新的算法，即辅助变量自适应 MCMC。在专门研究我们算法的情况之前，我们证明了整个类的一般遍历结果。这激发了一类新的算法，即辅助变量自适应 MCMC。在专门研究我们算法的情况之前，我们证明了整个类的一般遍历结果。