当前位置: X-MOL 学术Comput. Graph. Forum › 论文详情
Our official English website, www.x-mol.net, welcomes your feedback! (Note: you will need to create a separate account there.)
VisEvol: Visual Analytics to Support Hyperparameter Search through Evolutionary Optimization
Computer Graphics Forum ( IF 2.7 ) Pub Date : 2021-06-29 , DOI: 10.1111/cgf.14300
A. Chatzimparmpas 1 , R. M. Martins 1 , K. Kucher 1 , A. Kerren 1, 2
Affiliation  

During the training phase of machine learning (ML) models, it is usually necessary to configure several hyperparameters. This process is computationally intensive and requires an extensive search to infer the best hyperparameter set for the given problem. The challenge is exacerbated by the fact that most ML models are complex internally, and training involves trial-and-error processes that could remarkably affect the predictive result. Moreover, each hyperparameter of an ML algorithm is potentially intertwined with the others, and changing it might result in unforeseeable impacts on the remaining hyperparameters. Evolutionary optimization is a promising method to try and address those issues. According to this method, performant models are stored, while the remainder are improved through crossover and mutation processes inspired by genetic algorithms. We present VisEvol, a visual analytics tool that supports interactive exploration of hyperparameters and intervention in this evolutionary procedure. In summary, our proposed tool helps the user to generate new models through evolution and eventually explore powerful hyperparameter combinations in diverse regions of the extensive hyperparameter space. The outcome is a voting ensemble (with equal rights) that boosts the final predictive performance. The utility and applicability of VisEvol are demonstrated with two use cases and interviews with ML experts who evaluated the effectiveness of the tool.

中文翻译:

VisEvol:通过进化优化支持超参数搜索的可视化分析

在机器学习 (ML) 模型的训练阶段,通常需要配置多个超参数。这个过程是计算密集型的,需要广泛的搜索来推断给定问题的最佳超参数集。大多数 ML 模型在内部都很复杂,而且训练涉及可能显着影响预测结果的反复试验过程,这一事实加剧了这一挑战。此外,ML 算法的每个超参数都可能与其他超参数交织在一起,改变它可能会对剩余的超参数产生不可预见的影响。进化优化是尝试解决这些问题的一种很有前途的方法。根据这种方法,存储性能模型,而其余的则通过遗传算法启发的交叉和变异过程进行改进。我们展示了 VisEvol,这是一种可视化分析工具,支持对超参数的交互式探索和在此进化过程中进行干预。总之,我们提出的工具可帮助用户通过进化生成新模型,并最终在广泛的超参数空间的不同区域探索强大的超参数组合。结果是一个投票集合(具有平等的权利),提高了最终的预测性能。VisEvol 的实用性和适用性通过两个用例和对评估该工具有效性的 ML 专家的采访来证明。一种可视化分析工具,支持对超参数进行交互式探索,并在此进化过程中进行干预。总之,我们提出的工具可帮助用户通过进化生成新模型,并最终在广泛的超参数空间的不同区域探索强大的超参数组合。结果是一个投票集合(具有平等的权利),提高了最终的预测性能。VisEvol 的实用性和适用性通过两个用例和对评估该工具有效性的 ML 专家的采访来证明。一种可视化分析工具,支持对超参数进行交互式探索,并在此进化过程中进行干预。总之,我们提出的工具可帮助用户通过进化生成新模型,并最终在广泛的超参数空间的不同区域探索强大的超参数组合。结果是一个投票集合(具有平等的权利),提高了最终的预测性能。VisEvol 的实用性和适用性通过两个用例和对评估该工具有效性的 ML 专家的采访来证明。结果是一个投票集合(具有平等的权利),提高了最终的预测性能。VisEvol 的实用性和适用性通过两个用例和对评估该工具有效性的 ML 专家的采访来证明。结果是一个投票集合(具有平等的权利),提高了最终的预测性能。VisEvol 的实用性和适用性通过两个用例和对评估该工具有效性的 ML 专家的采访来证明。
更新日期:2021-06-29
down
wechat
bug