A common issue for classification in scientific research and industry is the existence of imbalanced classes. When sample sizes of different classes are imbalanced in training data, naively implementing a classification method often leads to unsatisfactory prediction results on test data. Multiple resampling techniques have been proposed to address the class imbalance issues. Yet, there is no general guidance on when to use each technique. In this article, we provide a paradigm-based review of the common resampling techniques for binary classification under imbalanced class sizes. The paradigms we consider include the classical paradigm that minimizes the overall classification error, the cost-sensitive learning paradigm that minimizes a cost-adjusted weighted type I and type II errors, and the Neyman–Pearson paradigm that minimizes the type II error subject to a type I error constraint. Under each paradigm, we investigate the combination of the resampling techniques and a few state-of-the-art classification methods. For each pair of resampling techniques and classification methods, we use simulation studies and a real dataset on credit card fraud to study the performance under different evaluation metrics. From these extensive numerical experiments, we demonstrate under each classification paradigm, the complex dynamics among resampling techniques, base classification methods, evaluation metrics, and imbalance ratios. We also summarize a few takeaway messages regarding the choices of resampling techniques and base classification methods, which could be helpful for practitioners.

中文翻译：

---

不平衡分类：基于范式的审查

科学研究和工业中分类的一个常见问题是存在不平衡的分类。当训练数据中不同类别的样本量不平衡时，天真地实施分类方法往往会导致对测试数据的预测结果不理想。已经提出了多种重采样技术来解决类不平衡问题。然而，没有关于何时使用每种技术的一般指导。在本文中，我们对不平衡类大小下的二元分类的常见重采样技术进行了基于范式的回顾。我们考虑的范式包括最小化整体分类错误的经典范式，最小化成本调整的加权 I 类和 II 类错误的成本敏感学习范式，和 Neyman-Pearson 范式，在 I 类错误约束下最小化 II 类错误。在每个范式下，我们研究了重采样技术和一些最先进的分类方法的组合。对于每对重采样技术和分类方法，我们使用模拟研究和信用卡欺诈的真实数据集来研究不同评估指标下的性能。从这些广泛的数值实验中，我们展示了每个分类范式下重采样技术、基础分类方法、评估指标和不平衡率之间的复杂动态。我们还总结了一些关于重采样技术和基础分类方法选择的外卖信息，这可能对从业者有所帮助。在每个范式下，我们研究了重采样技术和一些最先进的分类方法的组合。对于每对重采样技术和分类方法，我们使用模拟研究和信用卡欺诈的真实数据集来研究不同评估指标下的性能。从这些广泛的数值实验中，我们展示了每个分类范式下重采样技术、基础分类方法、评估指标和不平衡率之间的复杂动态。我们还总结了一些关于重采样技术和基础分类方法选择的外卖信息，这可能对从业者有所帮助。在每个范式下，我们研究了重采样技术和一些最先进的分类方法的组合。对于每对重采样技术和分类方法，我们使用模拟研究和信用卡欺诈的真实数据集来研究不同评估指标下的性能。从这些广泛的数值实验中，我们展示了每个分类范式下重采样技术、基础分类方法、评估指标和不平衡率之间的复杂动态。我们还总结了一些关于重采样技术和基础分类方法选择的外卖信息，这可能对从业者有所帮助。对于每对重采样技术和分类方法，我们使用模拟研究和信用卡欺诈的真实数据集来研究不同评估指标下的性能。从这些广泛的数值实验中，我们展示了每个分类范式下重采样技术、基础分类方法、评估指标和不平衡率之间的复杂动态。我们还总结了一些关于重采样技术和基础分类方法选择的外卖信息，这可能对从业者有所帮助。对于每对重采样技术和分类方法，我们使用模拟研究和信用卡欺诈的真实数据集来研究不同评估指标下的性能。从这些广泛的数值实验中，我们展示了每个分类范式下重采样技术、基础分类方法、评估指标和不平衡率之间的复杂动态。我们还总结了一些关于重采样技术和基础分类方法选择的外卖信息，这可能对从业者有所帮助。重采样技术、基础分类方法、评估指标和不平衡率之间的复杂动态。我们还总结了一些关于重采样技术和基础分类方法选择的外卖信息，这可能对从业者有所帮助。重采样技术、基础分类方法、评估指标和不平衡率之间的复杂动态。我们还总结了一些关于重采样技术和基础分类方法选择的外卖信息，这可能对从业者有所帮助。