当前位置: X-MOL 学术IEEE Comput. Intell. Mag. › 论文详情
Our official English website, www.x-mol.net, welcomes your feedback! (Note: you will need to create a separate account there.)
A Self-Adaptive Mutation Neural Architecture Search Algorithm Based on Blocks
IEEE Computational Intelligence Magazine ( IF 9 ) Pub Date : 2021-07-21 , DOI: 10.1109/mci.2021.3084435
Yu Xue , Yankang Wang , Jiayu Liang , Adam Slowik

Recently, convolutional neural networks (CNNs) have achieved great success in the field of artificial intelligence, including speech recognition, image recognition, and natural language processing. CNN architecture plays a key role in CNNs' performance. Most previous CNN architectures are hand-crafted, which requires designers to have rich expert domain knowledge. The trial-and-error process consumes a lot of time and computing resources. To solve this problem, researchers proposed the neural architecture search, which searches CNN architecture automatically, to satisfy different requirements. However, the blindness of the search strategy causes a 'loss of experience' in the early stage of the search process, and ultimately affects the results of the later stage. In this paper, we propose a self-adaptive mutation neural architecture search algorithm based on ResNet blocks and DenseNet blocks. The self-adaptive mutation strategy makes the algorithm adaptively adjust the mutation strategies during the evolution process to achieve better exploration. In addition, the whole search process is fully automatic, and users do not need expert knowledge about CNNs architecture design. In this paper, the proposed algorithm is compared with 17 state-of-the-art algorithms, including manually designed CNN and automatic search algorithms on CIFAR10 and CIFAR100. The results indicate that the proposed algorithm outperforms the competitors in terms of classification performance and consumes fewer computing resources.

中文翻译:

一种基于块的自适应变异神经架构搜索算法

近年来,卷积神经网络(CNN)在人工智能领域取得了巨大的成功,包括语音识别、图像识别和自然语言处理。CNN 架构在 CNN 的性能中起着关键作用。以前的 CNN 架构大多是手工制作的,这需要设计人员具有丰富的专业领域知识。试错过程会消耗大量时间和计算资源。为了解决这个问题,研究人员提出了神经架构搜索,它可以自动搜索 CNN 架构,以满足不同的需求。然而,搜索策略的盲目性导致了搜索过程前期的“经验损失”,最终影响了后期的结果。在本文中,我们提出了一种基于 ResNet 块和 DenseNet 块的自适应变异神经架构搜索算法。自适应变异策略使算法在进化过程中自适应地调整变异策略,以实现更好的探索。此外,整个搜索过程是全自动的,用户不需要有关 CNN 架构设计的专业知识。在本文中,将所提出的算法与 17 种最先进的算法进行了比较,包括手动设计的 CNN 和 CIFAR10 和 CIFAR100 上的自动搜索算法。结果表明,所提出的算法在分类性能方面优于竞争对手,并且消耗的计算资源更少。自适应变异策略使算法在进化过程中自适应地调整变异策略,以实现更好的探索。此外,整个搜索过程是全自动的,用户不需要有关 CNN 架构设计的专业知识。在本文中,将所提出的算法与 17 种最先进的算法进行了比较,包括手动设计的 CNN 和 CIFAR10 和 CIFAR100 上的自动搜索算法。结果表明,所提出的算法在分类性能方面优于竞争对手,并且消耗的计算资源更少。自适应变异策略使算法在进化过程中自适应地调整变异策略,以实现更好的探索。此外,整个搜索过程是全自动的,用户不需要有关 CNN 架构设计的专业知识。在本文中,将所提出的算法与 17 种最先进的算法进行了比较,包括手动设计的 CNN 和 CIFAR10 和 CIFAR100 上的自动搜索算法。结果表明,所提出的算法在分类性能方面优于竞争对手,并且消耗的计算资源更少。将所提出的算法与 17 种最先进的算法进行了比较,包括手动设计的 CNN 和 CIFAR10 和 CIFAR100 上的自动搜索算法。结果表明,所提出的算法在分类性能方面优于竞争对手,并且消耗的计算资源更少。将所提出的算法与 17 种最先进的算法进行了比较,包括手动设计的 CNN 和 CIFAR10 和 CIFAR100 上的自动搜索算法。结果表明,所提出的算法在分类性能方面优于竞争对手,并且消耗的计算资源更少。
更新日期:2021-09-12
down
wechat
bug