We study the sparse non-negative least squares (S-NNLS) problem. S-NNLS occurs naturally in a wide variety of applications where an unknown, non-negative quantity must be recovered from linear measurements. We present a unified framework for S-NNLS based on a rectified power exponential scale mixture prior on the sparse codes. We show that the proposed framework encompasses a large class of S-NNLS algorithms and provide a computationally efficient inference procedure based on multiplicative update rules. Such update rules are convenient for solving large sets of S-NNLS problems simultaneously, which is required in contexts like sparse non-negative matrix factorization (S-NMF). We provide theoretical justification for the proposed approach by showing that the local minima of the objective function being optimized are sparse and the S-NNLS algorithms presented are guaranteed to converge to a set of stationary points of the objective function. We then extend our framework to S-NMF, showing that our framework leads to many well known S-NMF algorithms under specific choices of prior and providing a guarantee that a popular subclass of the proposed algorithms converges to a set of stationary points of the objective function. Finally, we study the performance of the proposed approaches on synthetic and real-world data.

中文翻译：

---

使用乘法更新和非负矩阵分解问题的稀疏非负最小二乘统一框架

我们研究稀疏非负最小二乘 (S-NNLS) 问题。S-NNLS 自然存在于各种应用中，其中必须从线性测量中恢复未知的非负量。我们提出了一个统一的 S-NNLS 框架，该框架基于稀疏代码上的整流幂指数尺度混合。我们表明，所提出的框架包含一大类 S-NNLS 算法，并提供基于乘法更新规则的计算高效推理过程。这种更新规则便于同时解决大量 S-NNLS 问题，这在稀疏非负矩阵分解 (S-NMF) 等上下文中是必需的。我们通过证明被优化的目标函数的局部最小值是稀疏的，并且所提出的 S-NNLS 算法保证收敛到目标函数的一组驻点，为所提出的方法提供了理论依据。然后我们将我们的框架扩展到 S-NMF，表明我们的框架在特定的先验选择下导致了许多众所周知的 S-NMF 算法，并保证了所提出算法的流行子类收敛到目标的一组固定点功能。最后，我们研究了所提出的方法在合成数据和真实数据上的性能。表明我们的框架在特定的先验选择下导致了许多众所周知的 S-NMF 算法，并保证了所提出算法的流行子类收敛到目标函数的一组固定点。最后，我们研究了所提出的方法在合成数据和真实数据上的性能。表明我们的框架在特定的先验选择下导致了许多众所周知的 S-NMF 算法，并保证了所提出算法的流行子类收敛到目标函数的一组固定点。最后，我们研究了所提出的方法在合成数据和真实数据上的性能。