Convolutional neural networks (CNNs) have shown remarkable performance in various real-world applications. Unfortunately, the promising performance of CNNs can be achieved only when their architectures are optimally constructed. The architectures of state-of-the-art CNNs are typically handcrafted with extensive expertise in both CNNs and the investigated data, which consequently hampers the widespread adoption of CNNs for less experienced users. Evolutionary deep learning (EDL) is able to automatically design the best CNN architectures without much expertise. However, the existing EDL algorithms generally evaluate the fitness of a new architecture by training from scratch, resulting in the prohibitive computational cost even operated on high-performance computers. In this paper, an end-to-end offline performance predictor based on the random forest is proposed to accelerate the fitness evaluation in EDL. The proposed performance predictor shows the promising performance in term of the classification accuracy and the consumed computational resources when compared with 18 state-of-the-art peer competitors by integrating into an existing EDL algorithm as a case study. The proposed performance predictor is also compared with the other two representatives of existing performance predictors. The experimental results show the proposed performance predictor not only significantly speeds up the fitness evaluations but also achieves the best prediction among the peer performance predictors.

中文翻译：

---

使用基于端到端随机森林的性能预测器的代理辅助进化深度学习

卷积神经网络 (CNN) 在各种实际应用中表现出卓越的性能。不幸的是，只有在最佳构建其架构时才能实现 CNN 的有希望的性能。最先进的 CNN 的架构通常是手工制作的，在 CNN 和调查数据方面具有广泛的专业知识，因此阻碍了经验不足的用户广泛采用 CNN。进化深度学习 (EDL) 能够在没有太多专业知识的情况下自动设计最佳的 CNN 架构。然而，现有的 EDL 算法通常通过从头开始训练来评估新架构的适合度，导致即使在高性能计算机上运行也会导致高昂的计算成本。在本文中，提出了一种基于随机森林的端到端离线性能预测器，以加速 EDL 中的适应度评估。通过集成到现有的 EDL 算法作为案例研究，与 18 个最先进的同行竞争对手相比，所提出的性能预测器在分类精度和消耗的计算资源方面显示出有希望的性能。所提出的性能预测器还与现有性能预测器的其他两个代表进行了比较。实验结果表明，所提出的性能预测器不仅显着加快了适应度评估速度，而且在同行性能预测器中实现了最佳预测。通过集成到现有的 EDL 算法作为案例研究，与 18 个最先进的同行竞争对手相比，所提出的性能预测器在分类精度和消耗的计算资源方面显示出有希望的性能。所提出的性能预测器还与现有性能预测器的其他两个代表进行了比较。实验结果表明，所提出的性能预测器不仅显着加快了适应度评估速度，而且在同行性能预测器中实现了最佳预测。通过集成到现有的 EDL 算法作为案例研究，与 18 个最先进的同行竞争对手相比，所提出的性能预测器在分类精度和消耗的计算资源方面显示出有希望的性能。所提出的性能预测器还与现有性能预测器的其他两个代表进行了比较。实验结果表明，所提出的性能预测器不仅显着加快了适应度评估速度，而且在同行性能预测器中实现了最佳预测。所提出的性能预测器还与现有性能预测器的其他两个代表进行了比较。实验结果表明，所提出的性能预测器不仅显着加快了适应度评估速度，而且在同行性能预测器中实现了最佳预测。所提出的性能预测器还与现有性能预测器的其他两个代表进行了比较。实验结果表明，所提出的性能预测器不仅显着加快了适应度评估速度，而且在同行性能预测器中实现了最佳预测。