当前位置: X-MOL 学术arXiv.cs.LG › 论文详情
Our official English website, www.x-mol.net, welcomes your feedback! (Note: you will need to create a separate account there.)
机器学习基准差异的会计处理
arXiv - CS - Machine Learning Pub Date : 2021-03-01 , DOI: arxiv-2103.03098
Xavier Bouthillier, Pierre Delaunay, Mirko Bronzi, Assya Trofimov, Brennan Nichyporuk, Justin Szeto, Naz Sepah, Edward Raff, Kanika Madan, Vikram Voleti, Samira Ebrahimi Kahou, Vincent Michalski, Dmitriy Serdyuk, Tal Arbel, Chris Pal, Gaël Varoquaux, Pascal Vincent

有力的经验证据表明,一种机器学习算法A胜过另一种机器学习算法B理想地要求进行多次试验,以优化变异数据源(例如数据采样,数据扩充,参数初始化和超参数选择)上的学习管道。这是非常昂贵的,并且要下定决心要得出结论。我们对整个基准测试过程进行了建模,揭示了由于数据采样,参数初始化和超参数选择引起的差异显着影响了结果。根据这种差异,我们分析了当今使用的主要比较方法。我们显示了一个与直觉相反的结果,即向不完美的估算器添加更多的变化源会比计算量减少51倍的理想估算器更好。基于这些结果,我们在五个不同的深度学习任务/架构上研究了检测改进的错误率。这项研究使我们提出了性能比较的建议。



"点击查看英文标题和摘要"

更新日期:2021-03-05
down
wechat
bug