This paper considers the integration of non-orthogonal multiple access (NOMA) into massive multi-input multi-output (MIMO) systems for downlink transmission. We consider the joint design of user clustering, transmit beamforming, and power allocation to minimize the total transmit power while meeting the signal-to-interference-and-noise ratio targets. We decompose this challenging mixed-integer programming problem into three separate subproblems to solve. We propose a low-complexity learning-based user clustering algorithm, which is a modified version of mean shift clustering with a new channel correlation based clustering metric. The proposed clustering algorithm determines the clusters to trade-off between spatial dimension and power dimension offered by respective MIMO and NOMA for user multiplexing. We then design zero-forcing transmit beamformers to eliminate inter-cluster interference and optimize power allocation to minimize the total transmit power. We provide two case studies for both co-located and distributed massive MIMO systems in spatially highly correlated prorogation environments. Simulation results show that our proposed algorithm forms NOMA clusters based on the available degrees of freedom in the system to effectively use both spatial and power dimensions, which results in a substantial performance improvement over MIMO-only methods or other existing clustering methods in such environments.

中文翻译：

---

具有空间相关通道的 NOMA 辅助 MIMO 网络中基于学习的用户聚类

本文考虑将非正交多址接入 (NOMA) 集成到大规模多输入多输出 (MIMO) 系统中以进行下行链路传输。我们考虑了用户聚类、发射波束成形和功率分配的联合设计，以最小化总发射功率，同时满足信干噪比目标。我们将这个具有挑战性的混合整数规划问题分解为三个单独的子问题来解决。我们提出了一种基于低复杂度学习的用户聚类算法，它是均值漂移聚类的修改版本，具有基于新通道相关性的聚类度量。所提出的聚类算法确定聚类以在空间维度和功率维度之间进行权衡，由各自的 MIMO 和 NOMA 为用户多路复用提供。然后，我们设计迫零发射波束形成器以消除集群间干扰并优化功率分配以最小化总发射功率。我们为空间高度相关的预置环境中的共址和分布式大规模 MIMO 系统提供了两个案例研究。仿真结果表明，我们提出的算法基于系统中可用的自由度形成 NOMA 集群，以有效地利用空间和功率维度，在这种环境下，与仅 MIMO 方法或其他现有集群方法相比，性能有了显着提高。我们为空间高度相关的预置环境中的共址和分布式大规模 MIMO 系统提供了两个案例研究。仿真结果表明，我们提出的算法基于系统中可用的自由度形成 NOMA 集群，以有效地利用空间和功率维度，在这种环境下，与仅 MIMO 方法或其他现有集群方法相比，性能有了显着提高。我们为空间高度相关的预置环境中的共址和分布式大规模 MIMO 系统提供了两个案例研究。仿真结果表明，我们提出的算法基于系统中可用的自由度形成 NOMA 集群，以有效地利用空间和功率维度，在这种环境下，与仅 MIMO 方法或其他现有集群方法相比，性能有了显着提高。