The structure and performance of neural networks are intimately connected, and by use of evolutionary algorithms, neural network structures optimally adapted to a given task can be explored. Guiding such neuroevolution with additional objectives related to network structure has been shown to improve performance in some cases, especially when modular neural networks are beneficial. However, apart from objectives aiming to make networks more modular, such structural objectives have not been widely explored. We propose two new structural objectives and test their ability to guide evolving neural networks on two problems which can benefit from decomposition into subtasks. The first structural objective guides evolution to align neural networks with a user-recommended decomposition pattern. Intuitively, this should be a powerful guiding target for problems where human users can easily identify a structure. The second structural objective guides evolution towards a population with a high diversity in decomposition patterns. This results in exploration of many different ways to decompose a problem, allowing evolution to find good decompositions faster. Tests on our target problems reveal that both methods perform well on a problem with a very clear and decomposable structure. However, on a problem where the optimal decomposition is less obvious, the structural diversity objective is found to outcompete other structural objectives—and this technique can even increase performance on problems without any decomposable structure at all.

中文翻译：

---

用结构目标指导神经进化

神经网络的结构和性能密切相关，通过使用进化算法，可以探索最适合给定任务的神经网络结构。在某些情况下，使用与网络结构相关的附加目标来指导这种神经进化已被证明可以提高性能，尤其是在模块化神经网络有益时。然而，除了旨在使网络更加模块化的目标外，此类结构性目标尚未得到广泛探索。我们提出了两个新的结构目标，并测试它们在两个问题上指导不断发展的神经网络的能力，这些问题可以从分解为子任务中受益。第一个结构目标指导进化以将神经网络与用户推荐的分解模式对齐。直觉上，对于人类用户可以轻松识别结构的问题，这应该是一个强有力的指导目标。第二个结构目标引导向分解模式高度多样化的种群进化。这导致探索分解问题的许多不同方法，从而允许进化更快地找到好的分解。对我们的目标问题的测试表明，这两种方法在具有非常清晰和可分解结构的问题上表现良好。然而，在最优分解不太明显的问题上，发现结构多样性目标胜过其他结构目标——而且这种技术甚至可以提高根本没有任何可分解结构的问题的性能。第二个结构目标引导向分解模式高度多样化的种群进化。这导致探索分解问题的许多不同方法，从而允许进化更快地找到好的分解。对我们的目标问题的测试表明，这两种方法在具有非常清晰和可分解结构的问题上表现良好。然而，在最优分解不太明显的问题上，发现结构多样性目标胜过其他结构目标——而且这种技术甚至可以提高根本没有任何可分解结构的问题的性能。第二个结构目标引导向分解模式高度多样化的种群进化。这导致探索分解问题的许多不同方法，从而允许进化更快地找到好的分解。对我们的目标问题的测试表明，这两种方法在具有非常清晰和可分解结构的问题上表现良好。然而，在最优分解不太明显的问题上，发现结构多样性目标胜过其他结构目标——而且这种技术甚至可以提高根本没有任何可分解结构的问题的性能。对我们的目标问题的测试表明，这两种方法在具有非常清晰和可分解结构的问题上表现良好。然而，在最优分解不太明显的问题上，发现结构多样性目标胜过其他结构目标——而且这种技术甚至可以提高根本没有任何可分解结构的问题的性能。对我们的目标问题的测试表明，这两种方法在具有非常清晰和可分解结构的问题上表现良好。然而，在最优分解不太明显的问题上，发现结构多样性目标胜过其他结构目标——而且这种技术甚至可以提高根本没有任何可分解结构的问题的性能。