The ability to encode and manipulate data structures with distributed neural representations could qualitatively enhance the capabilities of traditional neural networks by supporting rule-based symbolic reasoning, a central property of cognition. Here we show how this may be accomplished within the framework of Vector Symbolic Architectures (VSA) (Plate, 1991; Gayler, 1998; Kanerva, 1996), whereby data structures are encoded by combining high-dimensional vectors with operations that together form an algebra on the space of distributed representations. In particular, we propose an efficient solution to a hard combinatorial search problem that arises when decoding elements of a VSA data structure: the factorization of products of multiple code vectors. Our proposed algorithm, called a resonator network, is a new type of recurrent neural network that interleaves VSA multiplication operations and pattern completion. We show in two examples -- parsing of a tree-like data structure and parsing of a visual scene -- how the factorization problem arises and how the resonator network can solve it. More broadly, resonator networks open the possibility to apply VSAs to myriad artificial intelligence problems in real-world domains. A companion paper (Kent et al., 2020) presents a rigorous analysis and evaluation of the performance of resonator networks, showing it out-performs alternative approaches.

中文翻译：

---

用于分解数据结构的分布式表示的谐振器网络

通过支持基于规则的符号推理（认知的核心属性），使用分布式神经表示编码和操作数据结构的能力可以定性地增强传统神经网络的能力。在这里，我们展示了如何在向量符号体系结构 (VSA)（Plate，1991 年；Gayler，1998 年；Kanerva，1996 年）的框架内实现这一点，其中数据结构通过将高维向量与一起形成代数的运算组合来编码在分布式表示空间上。特别是，我们提出了一个有效的解决方案来解决在解码 VSA 数据结构的元素时出现的硬组合搜索问题：多个代码向量的乘积的分解。我们提出的算法，称为谐振器网络，是一种新型的循环神经网络，它交织了 VSA 乘法运算和模式补全。我们在两个例子中展示了——树状数据结构的解析和视觉场景的解析——分解问题是如何出现的，以及谐振器网络如何解决它。更广泛地说，谐振器网络开启了将 VSA 应用于现实世界中无数人工智能问题的可能性。一篇配套论文（Kent 等人，2020 年）对谐振器网络的性能进行了严格的分析和评估，表明它优于替代方法。谐振器网络开启了将 VSA 应用于现实世界中无数人工智能问题的可能性。一篇配套论文（Kent 等人，2020 年）对谐振器网络的性能进行了严格的分析和评估，表明它优于替代方法。谐振器网络开启了将 VSA 应用于现实世界中无数人工智能问题的可能性。一篇配套论文（Kent 等人，2020 年）对谐振器网络的性能进行了严格的分析和评估，表明它优于替代方法。