Submodularity is a discrete domain functional property that can be interpreted as mimicking the role of well-known convexity/concavity properties in the continuous domain. Submodular functions exhibit strong structure that lead to efficient optimization algorithms with provable near-optimality guarantees. These characteristics, namely, efficiency and provable performance bounds, are of particular interest for signal processing (SP) and machine learning (ML) practitioners, as a variety of discrete optimization problems are encountered in a wide range of applications. Conventionally, two general approaches exist to solve discrete problems: 1) relaxation into the continuous domain to obtain an approximate solution or 2) the development of a tailored algorithm that applies directly in the discrete domain. In both approaches, worst-case performance guarantees are often hard to establish. Furthermore, they are often complex and thus not practical for large-scale problems. In this article, we show how certain scenarios lend themselves to exploiting submodularity for constructing scalable solutions with provable worst-case performance guarantees. We introduce a variety of submodular-friendly applications and elucidate the relation of submodularity to convexity and concavity, which enables efficient optimization. With a mixture of theory and practice, we present different flavors of submodularity accompanying illustrative real-world case studies from modern SP and ML. In all of the cases, optimization algorithms are presented along with hints on how optimality guarantees can be established.

中文翻译：

---

子模块在行动：从机器学习到信号处理应用

子模性是一种离散域功能特性，可以解释为模仿连续域中众所周知的凸/凹特性的作用。子模块函数表现出强大的结构，可以产生具有可证明的近乎最优保证的高效优化算法。这些特性，即效率和可证明的性能界限，对信号处理 (SP) 和机器学习 (ML) 从业者特别感兴趣，因为在广泛的应用中会遇到各种离散优化问题。传统上，存在两种解决离散问题的一般方法：1) 松弛到连续域以获得近似解或 2) 开发直接应用于离散域的定制算法。在这两种方法中，最坏情况下的性能保证通常很难建立。此外，它们通常很复杂，因此对于大规模问题不实用。在本文中，我们展示了某些场景如何利用子模块性来构建具有可证明的最坏情况性能保证的可扩展解决方案。我们介绍了各种子模块友好的应用程序，并阐明了子模块性与凸面和凹面的关系，从而实现了有效的优化。通过理论和实践的结合，我们展示了不同风格的子模块性，并伴随着现代 SP 和 ML 的说明性现实案例研究。在所有情况下，都提供了优化算法以及如何建立最优保证的提示。它们通常很复杂，因此对于大规模问题不实用。在本文中，我们展示了某些场景如何利用子模块性来构建具有可证明的最坏情况性能保证的可扩展解决方案。我们介绍了各种子模块友好的应用程序，并阐明了子模块性与凸面和凹面的关系，从而实现了有效的优化。通过理论和实践的结合，我们展示了不同风格的子模块性，并伴随着现代 SP 和 ML 的说明性现实案例研究。在所有情况下，都提供了优化算法以及如何建立最优保证的提示。它们通常很复杂，因此对于大规模问题不实用。在本文中，我们展示了某些场景如何利用子模块性来构建具有可证明的最坏情况性能保证的可扩展解决方案。我们介绍了各种子模块友好的应用程序，并阐明了子模块性与凸面和凹面的关系，从而实现了有效的优化。通过理论和实践的结合，我们展示了不同风格的子模块性，并伴随着现代 SP 和 ML 的说明性现实案例研究。在所有情况下，都提供了优化算法以及如何建立最优保证的提示。我们展示了某些场景如何利用子模块性来构建具有可证明的最坏情况性能保证的可扩展解决方案。我们介绍了各种子模块友好的应用程序，并阐明了子模块性与凸面和凹面的关系，从而实现了有效的优化。通过理论和实践的结合，我们展示了不同风格的子模块性，并伴随着现代 SP 和 ML 的说明性现实案例研究。在所有情况下，都提供了优化算法以及如何建立最优保证的提示。我们展示了某些场景如何利用子模块性来构建具有可证明的最坏情况性能保证的可扩展解决方案。我们介绍了各种子模块友好的应用程序，并阐明了子模块性与凸面和凹面的关系，从而实现了有效的优化。结合理论和实践，我们展示了不同风格的子模块性，并伴随着现代 SP 和 ML 的说明性现实案例研究。在所有情况下，都提供了优化算法以及如何建立最优保证的提示。通过理论和实践的结合，我们展示了不同风格的子模块性，并伴随着现代 SP 和 ML 的说明性现实案例研究。在所有情况下，都提供了优化算法以及如何建立最优保证的提示。结合理论和实践，我们展示了不同风格的子模块性，并伴随着现代 SP 和 ML 的说明性现实案例研究。在所有情况下，都提供了优化算法以及如何建立最优保证的提示。