当前位置: X-MOL 学术Chem. Eng. Res. Des. › 论文详情
Our official English website, www.x-mol.net, welcomes your feedback! (Note: you will need to create a separate account there.)
Gaussian process regression with heteroscedastic noises — A machine-learning predictive variance approach
Chemical Engineering Research and Design ( IF 3.9 ) Pub Date : 2020-03-07 , DOI: 10.1016/j.cherd.2020.02.033
Zhenxing Li , Xiaodan Hong , Kuangrong Hao , Lei Chen , Biao Huang

Gaussian process regression (GPR) is one of the most important data analytic tools in modelling processes. It has attracted increasing interest in chemical engineering applications due to its superior performance in dealing with complex modelling problems such as high-dimensional and nonlinear data. However, traditional GPR has the main limitation in that it considers an independent identically distributed (i.i.d.) noise at every sample point. Modern chemical processes typically have a more complex data structure and noise properties. The assumption of i.i.d. noise is not realistic. Thus, there is a growing interest in solving a heteroscedastic noise problem that does not satisfy the i.i.d. condition. The most common heteroscedastic noise is the noise with varying variance. This paper proposes a novel machine learning variance prediction method to solve the heteroskedastic GPR problem. By considering not only the input-dependent noise variance but also the input-output-dependent noise variance, a regression model based on support vector regression (SVR) and extreme learning machine (ELM) method is proposed for both noise variance prediction and smoothing. Compared with the existing weighted Gaussian process regression (W-GPR) of the literature, the proposed method not only expands the use of W-GPR but also improves the prediction performance of heteroscedastic GPR models. Finally, the proposed algorithm is verified by two numerical examples and tested in a real polyester polymerization process. The results all demonstrate the effectiveness of the proposed approach.



中文翻译:

异方差噪声的高斯过程回归—一种机器学习的预测方差方法

高斯过程回归(GPR)是建模过程中最重要的数据分析工具之一。由于其在处理复杂建模问题(例如高维和非线性数据)方面的卓越性能,它已在化学工程应用中引起了越来越多的兴趣。但是,传统的GPR具有主要局限性,因为它在每个采样点都考虑了独立的均匀分布(iid)噪声。现代化学过程通常具有更复杂的数据结构和噪声属性。艾德噪声的假设是不现实的。因此,解决不满足idd条件的异方差噪声问题的兴趣日益浓厚。最常见的异方差噪声是方差变化的噪声。本文提出了一种新的机器学习方差预测方法来解决异方差GPR问题。通过不仅考虑与输入有关的噪声方差,还考虑与输入与输出有关的噪声方差,提出了一种基于支持向量回归(SVR)和极限学习机(ELM)方法的回归模型,用于噪声方差预测和平滑。与文献中现有的加权高斯过程回归(W-GPR)相比,该方法不仅扩大了W-GPR的使用范围,而且提高了异方差GPR模型的预测性能。最后,通过两个数值实例对提出的算法进行了验证,并在实际的聚酯聚合过程中进行了测试。结果均证明了该方法的有效性。通过不仅考虑与输入有关的噪声方差,还考虑与输入与输出有关的噪声方差,提出了一种基于支持向量回归(SVR)和极限学习机(ELM)方法的回归模型,用于噪声方差预测和平滑。与文献中现有的加权高斯过程回归(W-GPR)相比,该方法不仅扩大了W-GPR的使用范围,而且提高了异方差GPR模型的预测性能。最后,通过两个数值实例对提出的算法进行了验证,并在实际的聚酯聚合过程中对其进行了测试。结果均证明了该方法的有效性。通过不仅考虑与输入有关的噪声方差,还考虑与输入与输出有关的噪声方差,提出了一种基于支持向量回归(SVR)和极限学习机(ELM)方法的回归模型,用于噪声方差预测和平滑。与文献中现有的加权高斯过程回归(W-GPR)相比,该方法不仅扩大了W-GPR的使用范围,而且提高了异方差GPR模型的预测性能。最后,通过两个数值实例对提出的算法进行了验证,并在实际的聚酯聚合过程中进行了测试。结果均证明了该方法的有效性。针对噪声方差预测和平滑问题,提出了一种基于支持向量回归(SVR)和极限学习机(ELM)的回归模型。与文献中现有的加权高斯过程回归(W-GPR)相比,该方法不仅扩大了W-GPR的使用范围,而且提高了异方差GPR模型的预测性能。最后,通过两个数值实例对提出的算法进行了验证,并在实际的聚酯聚合过程中对其进行了测试。结果均证明了该方法的有效性。针对噪声方差预测和平滑问题,提出了一种基于支持向量回归(SVR)和极限学习机(ELM)的回归模型。与文献中现有的加权高斯过程回归(W-GPR)相比,该方法不仅扩大了W-GPR的使用范围,而且提高了异方差GPR模型的预测性能。最后,通过两个数值实例对提出的算法进行了验证,并在实际的聚酯聚合过程中对其进行了测试。结果均证明了该方法的有效性。该方法不仅扩展了W-GPR的使用范围,而且提高了异方差GPR模型的预测性能。最后,通过两个数值实例对提出的算法进行了验证,并在实际的聚酯聚合过程中对其进行了测试。结果均证明了该方法的有效性。该方法不仅扩展了W-GPR的使用范围,而且提高了异方差GPR模型的预测性能。最后,通过两个数值实例对提出的算法进行了验证,并在实际的聚酯聚合过程中对其进行了测试。结果均证明了该方法的有效性。

更新日期:2020-03-07
down
wechat
bug