当前位置: X-MOL 学术arXiv.cs.DS › 论文详情
Our official English website, www.x-mol.net, welcomes your feedback! (Note: you will need to create a separate account there.)
Fast and memory-optimal dimension reduction using Kac's walk
arXiv - CS - Data Structures and Algorithms Pub Date : 2020-03-23 , DOI: arxiv-2003.10069
Vishesh Jain, Natesh S. Pillai, Ashwin Sah, Mehtaab Sawhney, Aaron Smith

In this work, we analyze dimension reduction algorithms based on the Kac walk and discrete variants. (1) For $n$ points in $\mathbb{R}^{d}$, we design an optimal Johnson-Lindenstrauss (JL) transform based on the Kac walk which can be applied to any vector in time $O(d\log{d})$ for essentially the same restriction on $n$ as in the best-known transforms due to Ailon and Liberty [SODA, 2008], and Bamberger and Krahmer [arXiv, 2017]. Our algorithm is memory-optimal, and outperforms existing algorithms in regimes when $n$ is sufficiently large and the distortion parameter is sufficiently small. In particular, this confirms a conjecture of Ailon and Chazelle [STOC, 2006] in a stronger form. (2) The same construction gives a simple transform with optimal Restricted Isometry Property (RIP) which can be applied in time $O(d\log{d})$ for essentially the same range of sparsity as in the best-known such transform due to Ailon and Rauhut [Discrete Comput. Geom., 2014]. (3) We show that by fixing the angle in the Kac walk to be $\pi/4$ throughout, one obtains optimal JL and RIP transforms with almost the same running time, thereby confirming -- up to a $\log\log{d}$ factor -- a conjecture of Avron, Maymounkov, and Toledo [SIAM J. Sci. Comput., 2010]. Our moment-based analysis of this modification of the Kac walk may also be of independent interest.

中文翻译:

使用 Kac's walk 进行快速且内存优化的降维

在这项工作中,我们分析了基于 Kac walk 和离散变体的降维算法。(1) 对于 $\mathbb{R}^{d}$ 中的 $n$ 个点,我们设计了一个基于 Kac 游走的最优 Johnson-Lindenstrauss (JL) 变换,该变换可以应用于任何时间向量 $O(d \log{d})$ 对 $n$ 的限制与由于 Ailon 和 Liberty [SODA, 2008] 以及 Bamberger 和 Krahmer [arXiv, 2017] 引起的最著名的变换中的限制基本相同。我们的算法是内存优化的,并且在 $n$ 足够大且失真参数足够小时的情况下优于现有算法。特别是,这以更强的形式证实了 Ailon 和 Chazelle [STOC, 2006] 的猜想。(2) 相同的构造给出了一个具有最佳受限等距特性 (RIP) 的简单变换,它可以在时间 $O(d\log{d})$ 中应用,以获得与最著名的此类变换基本相同的稀疏范围由于 Ailon 和 Rauhut [离散计算。几何。,2014]。(3) 我们表明,通过将 Kac walk 中的角度始终固定为 $\pi/4$,可以在几乎相同的运行时间下获得最佳的 JL 和 RIP 变换,从而确认——高达 $\log\log {d}$ 因子——Avron、Maymounkov 和 Toledo 的猜想 [SIAM J. Sci. 计算,2010]。我们对 Kac walk 的这种修改的基于时刻的分析也可能是独立的兴趣。以几乎相同的运行时间获得最佳 JL 和 RIP 变换,从而证实 - 高达 $\log\log{d}$ 因子 - Avron、Maymounkov 和 Toledo [SIAM J. Sci. 计算,2010]。我们对 Kac 行走的这种修改的基于时刻的分析也可能具有独立的兴趣。以几乎相同的运行时间获得最佳 JL 和 RIP 变换,从而证实 - 高达 $\log\log{d}$ 因子 - Avron、Maymounkov 和 Toledo [SIAM J. Sci. 计算,2010]。我们对 Kac walk 的这种修改的基于时刻的分析也可能是独立的兴趣。
更新日期:2020-07-15
down
wechat
bug