The min-max problem, also known as the saddle point problem, is a class of optimization problems which minimizes and maximizes two subsets of variables simultaneously. This class of problems can be used to formulate a wide range of signal processing and communication (SPCOM) problems. Despite its popularity, most existing theory for this class has been mainly developed for problems with certain special convex-concave structure. Therefore, it cannot be used to guide the algorithm design for many interesting problems in SPCOM, where various kinds of non-convexity arise. In this work, we consider a block-wise one-sided non-convex min-max problem, in which the minimization problem consists of multiple blocks and is non-convex, while the maximization problem is (strongly) concave. We propose a class of simple algorithms named Hybrid Block Successive Approximation (HiBSA), which alternatingly performs gradient descent-type steps for the minimization blocks and gradient ascent-type steps for the maximization problem. A key element in the proposed algorithm is the use of certain regularization and penalty sequences, which stabilize the algorithm and ensure convergence. We show that HiBSA converges to some properly defined first-order stationary solutions with quantifiable global rates. To validate the efficiency of the proposed algorithms, we conduct numerical tests on a number of problems, including the robust learning problem, the non-convex min-utility maximization problems, and certain wireless jamming problem arising in interfering channels.

中文翻译：

---

单边非凸最小-最大问题的混合块逐次逼近：算法和应用

最小-最大问题，也称为鞍点问题，是一类同时最小化和最大化变量的两个子集的优化问题。此类问题可用于制定广泛的信号处理和通信 (SPCOM) 问题。尽管它很受欢迎，但该类的大多数现有理论主要是针对具有某些特殊凸凹结构的问题而开发的。因此，它不能用于指导 SPCOM 中许多有趣问题的算法设计，其中出现了各种非凸性。在这项工作中，我们考虑了一个分块单边非凸最小-最大问题，其中最小化问题由多个块组成并且是非凸的，而最大化问题是（强）凹的。我们提出了一类名为混合块逐次逼近 (HiBSA) 的简单算法，它交替执行最小化块的梯度下降型步骤和最大化问题的梯度上升型步骤。所提出算法的一个关键要素是使用某些正则化和惩罚序列，它们稳定算法并确保收敛。我们表明 HiBSA 收敛到一些适当定义的具有可量化全局速率的一阶平稳解。为了验证所提出算法的效率，我们对许多问题进行了数值测试，包括鲁棒学习问题、非凸最小效用最大化问题以及干扰信道中出现的某些无线干扰问题。它交替执行最小化块的梯度下降型步骤和最大化问题的梯度上升型步骤。所提出算法的一个关键要素是使用某些正则化和惩罚序列，它们稳定算法并确保收敛。我们表明 HiBSA 收敛到一些适当定义的具有可量化全局速率的一阶平稳解。为了验证所提出算法的效率，我们对许多问题进行了数值测试，包括鲁棒学习问题、非凸最小效用最大化问题以及干扰信道中出现的某些无线干扰问题。它交替执行最小化块的梯度下降型步骤和最大化问题的梯度上升型步骤。所提出算法的一个关键要素是使用某些正则化和惩罚序列，它们稳定算法并确保收敛。我们表明 HiBSA 收敛到一些适当定义的具有可量化全局速率的一阶平稳解。为了验证所提出算法的效率，我们对许多问题进行了数值测试，包括鲁棒学习问题、非凸最小效用最大化问题以及干扰信道中出现的某些无线干扰问题。所提出算法的一个关键要素是使用某些正则化和惩罚序列，它们稳定算法并确保收敛。我们表明 HiBSA 收敛到一些适当定义的具有可量化全局速率的一阶平稳解。为了验证所提出算法的效率，我们对许多问题进行了数值测试，包括鲁棒学习问题、非凸最小效用最大化问题以及干扰信道中出现的某些无线干扰问题。所提出算法的一个关键要素是使用某些正则化和惩罚序列，它们稳定算法并确保收敛。我们表明 HiBSA 收敛到一些适当定义的具有可量化全局速率的一阶平稳解。为了验证所提出算法的效率，我们对许多问题进行了数值测试，包括鲁棒学习问题、非凸最小效用最大化问题以及干扰信道中出现的某些无线干扰问题。