当前位置: X-MOL 学术arXiv.cs.LG › 论文详情
Our official English website, www.x-mol.net, welcomes your feedback! (Note: you will need to create a separate account there.)
强混合连续时间随机过程的对比学习
arXiv - CS - Machine Learning Pub Date : 2021-03-03 , DOI: arxiv-2103.02740
Bingbin Liu, Pradeep Ravikumar, Andrej Risteski

对比学习是一系列自我监督的方法,其中训练模型以解决由未标记数据构成的分类任务。由于在许多不同领域(例如,大脑成像,文本,图像)没有标签,因此它最近已成为领先的学习范例之一。但是,对培训的许多方面(无论是统计方面还是算法方面)的理论理解仍然十分难以捉摸。在这项工作中,我们研究时间序列的设置-更确切地说,当我们从强混合连续时间随机过程中获取数据时。我们表明,在扩散情况下,可以使用适当构造的对比学习任务来估计中小范围区间的过渡内核。而且,我们给出了解决此任务的样本复杂性界限,并定量地描述了对比损失的值对学习的内核的分布紧密度意味着什么。作为副产品,我们说明了对比分布的适当设置以及该设置中的其他超参数。



"点击查看英文标题和摘要"

更新日期:2021-03-05
down
wechat
bug