神经网络无需学习就能驾驶虚拟赛车

点击

上方“IEEE电气电子工程师学会”即可订阅公众号。网罗全球科技前沿动态，为科研创业打开脑洞。

Image: Google Brain

动物天生具有先天的能力和倾向。马在出生后几个小时内就能行走，鸭子在孵化后很快就能游泳，人类的婴儿也会自动地被他人脸部吸引。大脑已经进化成只需很少或根本没有经验就可以面对世界，许多研究人员希望在人工智能中重现这种自然能力。

新的研究发现，人工神经网络可以进化来执行任务而不需要学习。这项技术可以使人工智能更擅长于各种各样的任务，比如给照片贴标签或开车。

人工神经网络是在它们之间传递信息的小计算单元（“神经元”）的排列。这些网络通常通过调整神经元之间连接的“权重”或强度来学习执行游戏或识别图像等任务。一种称为神经架构搜索的技术尝试了许多网络形状和大小，以找到能够更好地学习特定用途的网络。

新方法使用同样的搜索技术来查找权重无关紧要的网络。对于这样一个网络，网络的整体形状会驱动它的智能，并使它特别适合某些任务。

“如果动物有所有这些天生的行为，而一些神经网络在没有大量训练的情况下也能做得很好，我们想知道我们能在多大程度上推动这一想法，”该论文的主要作者、计算机科学家Adam Gaier在Google Brain工作时说。

这个过程从一组非常简单的网络开始，这些网络将机器人传感器的数据输入到行为输出。它评估网络在给定任务上的性能，通过添加一个神经元、添加一个链接或改变一个神经元对其输入总和的敏感程度，保持表现最好的网络，并对其进行变异。在评估阶段，将共享随机数分配给网络的所有权重。（这实际上是对几个随机数进行的，结果是平均的。）

其结果称为权重不可知神经网络（WANNs，Weight Agnostic Neural Networks）。这些网络因在任务中表现良好和简单而获得分数。虽然本研究中任务的典型网络可能有数千个神经元和权重，但广域网只有少量神经元和单个权重。

研究团队将其与标准网络架构进行了比较，后者通过经验对权重进行优化，以掌握三个模拟任务：驾驶赛车、使双足机器人行走、控制轮式推车平衡杆。

在涉及识别书面数字的任务中，WANNs的准确率达到90%以上（而接受过该任务训练的大型网络的准确率为99%）。这项研究上个月在加拿大温哥华举行的神经信息处理系统（NeurIPS）会议上发表。

Uber-AI实验室的计算机科学家Rosanne Liu并没有参与这项研究，她说：“他们让整个事情运转起来的事实令人印象深刻。”另一些人试图开发不依赖权重的网络，但失败了。Gaier说，这一突破最初是一个bug，它将相同的数字分配给所有权重，最终简化了架构搜索。