快速高效的神经网络复制蜻蜓的大脑

在我们每个人的大脑里，860亿个神经元并行工作，处理来自感官和记忆的输入，从而产生人类认知的许多壮举。其他动物的大脑的能力就没有那么广泛，但这些动物经常表现出对特定任务的天赋，这些能力是经过数百万年进化磨练出来的。

我们大多数人都见过动物做聪明的事情。也许你家的宠物是个逃跑高手。也许你住在鸟类或蝴蝶的迁徙路径附近，庆祝它们每年的回归。也许你对蚂蚁入侵你的储藏室时表现出的专一感到惊讶

将这些专门的神经系统作为人工智能的模型，可能会被证明与研究人脑一样有价值，甚至更有价值。网上亚博Ayabo2016想想你厨房里那些蚂蚁的大脑。每个细胞大约有25万个神经元。较大的昆虫有接近100万个。在阿尔伯克基的桑迪亚国家实验室的研究中，我研究了一种较大昆虫——蜻蜓的大脑。我和我在国家安全实验室桑迪亚(Sandia)的同事们希望利用这些昆虫的专一性来设计优化的计算系统，以完成拦截来袭导弹或跟踪气味羽流等任务。通过利用蜻蜓神经系统的速度、简单性和效率，我们的目标是设计出能够更快地执行这些功能的计算机，并且功耗仅为传统系统的一小部分。

看着一只蜻蜓作为未来计算机系统的先驱者似乎有悖于直觉。制造新闻的人工智能和机器学习领域的发展，yabo2016网上亚博A通常是模仿人类智能甚至超越人类能力的算法。在某些特定的任务上，神经网络已经可以表现得和人类一样好——如果不是更好的话，比如在医学扫描中检测癌症。这些神经网络的潜力远远超出了视觉处理。计算机程序AlphaZero他是世界上最好的围棋选手。它的兄弟AI，AlphaStar美国名列前茅星际争霸2的球员。

然而，这样的成就是有代价的。开发这些复杂的系统需要大量的处理能力，通常只有那些拥有最快的超级计算机和支持它们的资源的选定机构才能获得。能源成本也令人不快。最近的估计开发和训练一个自然语言处理算法所产生的碳排放量比四辆汽车一生所产生的碳排放量还要大。

蜻蜓只需要大约50毫秒就开始对猎物的动作做出反应。如果我们假设眼睛中的细胞需要10毫秒来检测和传递关于猎物的信息，肌肉需要5毫秒来开始发力，那么神经回路只剩下35毫秒来进行计算。考虑到通常单个神经元至少需要10毫秒来整合输入，底层神经网络可能至少有三层深。

但人工神经网络真的需要庞大复杂才能有用吗?我相信没有。为了在短期内获得神经计算机的好处，我们必须在简单性和复杂性之间取得平衡。

这让我回到了蜻蜓，这种动物的大脑可以为某些应用提供精确的平衡。

如果你曾经遇到过蜻蜓，你已经知道这些美丽的生物能以多快的速度飞行，你已经看到了它们在空中令人难以置信的敏捷。也许从不经意的观察中不太明显的是它们出色的捕猎能力:蜻蜓成功捕捉到高达95%的猎物，一天吃掉数百只蚊子。

蜻蜓的身体力量当然没有被忽视。几十年来，美国机构一直在试验以蜻蜓为灵感的无人侦察机设计。现在是时候把我们的注意力转向控制这台小型狩猎机器的大脑了。

当蜻蜓虽然蜻蜓可能不会玩围棋这样的战略游戏，但它确实展示了一种战略形式，它会在猎物当前位置之前瞄准，拦截猎物的晚餐。这需要非常快的计算——蜻蜓通常只需要50毫秒就能对猎物的动作做出反应。它在跟踪头部和身体之间的角度时这样做，这样它就知道哪只翅膀应该更快地扇动，以便在猎物前面转弯。它也会追踪自己的运动，因为当蜻蜓转身时，猎物也会跟着移动。

模型蜻蜓会根据猎物的转向调整方向。较小的黑圈是蜻蜓的头，保持在初始位置。黑色实线表示蜻蜓的飞行方向;蓝色虚线是模型蜻蜓眼睛的平面。红色的星星是猎物相对于蜻蜓的位置，红色的虚线表示蜻蜓的视线。

因此，蜻蜓的大脑正在进行一项非凡的壮举，考虑到单个神经元将所有输入加起来所需的时间(称为膜时间常数)超过10毫秒。如果你考虑到眼睛处理视觉信息和肌肉产生运动所需的力量的时间，那么实际上只有三层，也许四层神经元的时间，按顺序，将它们的输入相加并传递信息

我能不能建立一个像蜻蜓拦截系统一样的神经网络?我也想知道这种神经系统的用途。在桑迪亚，我立即考虑了国防应用，如导弹防御，想象未来的导弹与机载系统设计，以快速计算拦截轨迹，而不影响导弹的重量或功率消耗。但也有民用应用。

例如，控制自动驾驶汽车的算法可能会变得更高效，不再需要大量的计算设备。如果一个受蜻蜓启发的系统可以执行计算来绘制拦截轨迹，也许自主无人机可以使用它避免碰撞。如果电脑能被制成和蜻蜓大脑一样大(约6立方毫米)，也许有一天驱虫剂和蚊帐将成为历史，取而代之的是小型灭虫无人机!

开始回答为了解决这些问题，我创建了一个简单的神经网络来代替蜻蜓的神经系统，并用它来计算蜻蜓捕捉猎物时的转弯次数。我的三层神经网络以软件模拟的形式存在。最初，我使用Matlab只是因为那是我已经在使用的编码环境。此后，我将模型移植到Python。

因为蜻蜓必须看到猎物才能捕捉它，我首先模拟了蜻蜓眼睛的简化版本，捕捉追踪猎物所需的最小细节。虽然蜻蜓有两只眼睛，但人们普遍认为它们不使用立体深度感知来估计与猎物的距离。在我的模型中，我没有两只眼睛都建模。我也没有试图与他的决心相匹敌一个蜻蜓的眼睛．相反，神经网络的第一层包括441个代表眼睛输入的神经元，每个神经元描述一个特定的视野区域——这些区域被平铺成一个21 × 21的神经元阵列，覆盖了蜻蜓的视野。当蜻蜓转身时，猎物图像在蜻蜓视野中的位置会发生变化。蜻蜓计算将猎物的图像与这些“眼睛”神经元中的一个(或几个，如果猎物足够大的话)对齐所需的匝数。第二组441个神经元，也在网络的第一层，告诉蜻蜓哪些眼睛神经元应该与猎物的图像对齐，也就是说，猎物应该在它的视野范围内。

模型蜻蜓与猎物交战。

在我的人工神经网络的第一层和第三层之间进行的处理——即获取描述物体在视野范围内运动的输入，并将其转化为关于蜻蜓需要转向哪个方向的指令的计算。在第二层中，我使用了一个194,481 (21⁴)神经元，可能比蜻蜓完成这项任务所使用的神经元数量要多得多。我预先计算了网络中所有神经元之间连接的权重。虽然这些权重可以通过足够的时间来学习，但通过进化和预编程的神经网络架构来“学习”是有优势的。一旦蜻蜓从若虫阶段(技术上称为成虫)出来，就没有父母喂养它或教它如何捕猎。蜻蜓正处于一种脆弱的状态，正在适应一个新的身体——同时必须想出一个捕猎策略是不利的。我设置了网络的权重，让模型蜻蜓计算出正确的转弯，从传入的视觉信息中拦截猎物。那些是什么弯?嗯，如果一只蜻蜓想要抓住一只穿过它的路径的蚊子，它不能只瞄准蚊子。借用冰球运动员韦恩·格雷茨基(Wayne Gretsky)对冰球的说法，蜻蜓必须瞄准蚊子将要去的地方。你可能会认为遵循格雷茨基的建议需要一个复杂的算法，但实际上策略很简单:蜻蜓所需要做的就是在它的视线与午餐之间保持一个恒定的角度，并保持一个固定的参考方向。

有过领航经验的读者会明白这是为什么。他们知道，当另一艘船的视线与参考方向(例如正北)之间的角度保持不变时，他们就会担心，因为他们正处于碰撞航向上。长期以来，为了避免碰撞，水手们一直避免驾驶这种被称为平行航行的航线

翻译成蜻蜓想要要与猎物相撞，方法很简单:保持与猎物的视线相对于一些外部参考的恒定。然而，对于蜻蜓来说，这项任务并不一定是微不足道的，因为它俯冲和旋转，收集食物。蜻蜓内部没有陀螺仪(据我们所知)，无论蜻蜓如何转弯，陀螺仪都能保持恒定的方向，并提供参考。它也没有始终指向北方的磁罗盘。在我简化的蜻蜓狩猎模拟中，蜻蜓转身将猎物的图像与它眼睛上的特定位置对齐，但它需要计算这个位置应该是什么。

我模拟神经网络的第三层也是最后一层是电机指令层。这一层神经元的输出是对蜻蜓肌肉的高级指令，告诉蜻蜓转向哪个方向。蜻蜓还使用这一层的输出来预测自己的动作对猎物图像在其视野中的位置的影响，并相应地更新投影位置。这种更新可以让蜻蜓在猎物接近时，相对于外部世界保持稳定的视线。

有可能生物蜻蜓已经进化出了额外的工具来帮助进行这种预测所需的计算。例如，蜻蜓有专门的传感器，可以测量飞行过程中的身体旋转以及头部相对于身体的旋转——如亚博排列五投注网站果这些传感器足够快，蜻蜓可以直接从传感器输出中计算出它的运动对猎物图像的影响，或者使用一种方法来交叉检查另一种方法。在我的模拟中，我没有考虑到这种可能性。

为了测试这个三层神经网络，我模拟了一只蜻蜓和它的猎物，在三维空间中以相同的速度移动。当它们这样做时，我模拟的神经网络大脑“看到”猎物，计算指向哪里，以保持猎物图像的恒定角度，并向肌肉发送适当的指令。我能够证明这个蜻蜓大脑的简单模型确实可以成功地拦截其他虫子，即使是沿着弯曲或半随机轨迹飞行的猎物。模拟蜻蜓并没有完全达到生物蜻蜓的成功率，但它也不具备已知蜻蜓的所有优势(例如令人印象深刻的飞行速度)。

还需要做更多的工作来确定这个神经网络是否真的包含了蜻蜓大脑的所有秘密。位于弗吉尼亚州的霍华德休斯医学研究所珍妮利亚研究园区的研究人员为蜻蜓开发了微型背包，可以在蜻蜓飞行时测量其神经系统发出的电信号，并将这些数据传输给分析人员。背包足够小，不会分散蜻蜓的注意力。同样，神经科学家也可以记录蜻蜓大脑中单个神经元的信号，当昆虫被保持不动，但通过向它提供适当的视觉线索，让它认为自己在移动，从而创建一个蜻蜓规模的虚拟现实。

来自这些系统的数据使神经科学家能够通过将蜻蜓的活动与活跃蜻蜓的生物神经元的活动模式进行比较来验证蜻蜓的大脑模型。虽然我们还不能直接测量蜻蜓大脑中神经元之间的单个连接，但我和我的合作者将能够推断蜻蜓的神经系统是否在进行类似于我的人工神经网络预测的计算。这将有助于确定蜻蜓大脑中的连接是否类似于我在神经网络中预先计算的权重。我们将不可避免地发现我们的模型与实际蜻蜓大脑的不同之处。也许这些差异将为蜻蜓大脑加速计算所采取的捷径提供线索。

这个背包可以捕捉插入蜻蜓大脑的电极发出的信号，它是由珍妮利亚研究园区的小组负责人安东尼·莱昂纳多发明的。安东尼·莱昂纳多/珍妮莉亚研究校园/HHMI

蜻蜓也可以教我们如何在计算机上实现“注意力”。你可能知道当你的大脑完全集中注意力时是什么感觉，完全在一个区域，专注于一项任务，以至于其他干扰似乎都消失了。蜻蜓也能集中注意力。它的神经系统会对特定的，可能是选定的目标做出反应，即使在同一视野内可以看到其他潜在的猎物。这是有道理的，一旦蜻蜓决定追捕特定的猎物，它只会在未能捕捉到第一选择的情况下才会改变目标。(换句话说，如果你很容易分心，使用平行导航来抓一顿饭是没有用的。)

即使我们最终发现蜻蜓引导注意力的机制不如人们在拥挤的咖啡店里集中注意力的机制复杂，但通过提供有效的方法丢弃不相关的输入，一种更简单但功耗更低的机制可能对下一代算法和计算机系统有利

研究蜻蜓大脑的优势并不局限于新的算法;它们还会影响系统设计。蜻蜓的眼睛速度很快，相当于每秒200帧:这是人类视觉速度的几倍。但它们的空间分辨率相对较差，可能只有人眼的百分之一。尽管蜻蜓的感知能力有限，但了解它如何如此有效地捕猎，可以为设计更有效的系统提供建议。利用导弹防御问题，蜻蜓的例子表明，我们的反导弹系统具有快速光学传感，可能需要更少的空间分辨率来击中目标。

蜻蜓不是唯一的昆虫这可以为今天的神经启发计算机设计提供信息。黑脉金斑蝶会进行令人难以置信的长距离迁徙，它们利用某种天生的本能在一年中的适当时间开始它们的旅程，并朝着正确的方向前进。我们知道帝王蝶依赖太阳的位置，但根据太阳导航需要跟踪一天中的时间。如果你是一只向南飞的蝴蝶，你会希望太阳在早上落在你的左边，而在下午落在你的右边。因此，为了设定航向，蝴蝶的大脑必须读取自己的昼夜节律，并将这些信息与它所观察到的信息结合起来。

其他昆虫，如撒哈拉沙漠蚂蚁，必须觅食相对较长的距离。一旦找到食物来源，这种蚂蚁不会简单地折回巢穴，很可能是一条迂回的路。相反，它会计算一条直接返回的路径。因为蚂蚁食物来源的位置每天都在变化，它必须能够记住它在觅食旅程中走过的路径，将视觉信息与行进距离的一些内部测量相结合，然后计算返回路线从那些记忆中。

虽然没有人知道沙漠蚂蚁执行这项任务的神经回路是什么，但珍妮利亚研究园区的研究人员已经确定了允许果蝇执行这项任务的神经回路使用视觉地标进行自我定位．沙漠蚂蚁和帝王蝶可能使用类似的机制。这种神经电路有一天可能会在低功率无人机上发挥作用。

如果以昆虫为灵感的计算的效率是如此之高，以至于这些专门组件的数百万个实例可以并行运行，以支持更强大的数据处理或机器学习呢?下一个AlphaZero会不会整合数百万个蚂蚁般的觅食架构来完善它的游戏玩法?也许昆虫会激发新一代电脑的灵感，让它们看起来与我们今天的电脑大不相同。一小队类似蜻蜓拦截的算法可以用来控制游乐园游乐设施的移动部件，确保即使在复杂但惊险的舞蹈中，单个汽车也不会发生碰撞(就像飞行员驾驶船只一样)。

没人知道下一代计算机会是什么样子，是半生化的伙伴，还是像艾萨克·阿西莫夫(Isaac Asimov)的Multivac那样集中资源。同样，没有人知道开发这些平台的最佳路径是什么。虽然研究人员从人脑中汲取灵感开发了早期的神经网络，但今天的人工神经网络往往依赖于明显不像人脑的计算。研究生物神经回路中单个神经元的计算——目前只可能直接应用于非人类系统——可能会教给我们更多东西。昆虫看起来很简单，但它们的能力往往令人惊讶，它们对下一代计算机的发展有很大的贡献，尤其是在神经科学研究继续朝着更深入地了解生物神经回路如何工作的方向发展的时候。

所以，下次当你看到一只昆虫在做一些聪明的事情时，想象一下，如果你可以拥有一小群小蜻蜓、蝴蝶或蚂蚁的大脑，那么你的日常生活将会受到什么样的影响。也许未来的计算机将赋予“蜂群思维”一词新的含义，拥有大量高度专业化但极其高效的微型处理器，能够根据手头的任务重新配置和部署。随着今天神经科学的进步，这个看似幻想的想法可能比你想象的更接近现实。

本文发表在2021年8月的印刷版上，题为“来自蜻蜓大脑的教训”。