新的人工神经元设备可用极少能量运行神经网络计算
加州大学圣地亚哥分校的研究人员开发了一种新的人工神经元装置,训练神经网络来执行任务,如识别图像或为自动驾驶汽车导航,有一天可能需要更少的计算能力和硬件。该设备可以使用比现有基于CMOS的硬件少100到1000倍的能量和面积来运行神经网络计算。 Q
{3"& wHWd~K_q 研究人员在最近发表于《自然-纳米技术》的一篇论文中报告了他们的工作。神经网络是一系列相连的人工神经元层,其中一个层的输出为下一个层提供输入。产生该输入是通过应用一种被称为非线性激活函数的数学计算来完成的。这是运行神经网络的一个关键部分。但应用这个函数需要大量的计算能力和电路,因为它涉及到在两个独立单元--存储器和外部处理器之间来回传输数据。 (nbqL+ p
W:[Q\rSj
[attachment=107014] 3xsC"c> .oO_x> [attachment=107015] A{: a kK {K*l,U [attachment=107013] B*zb0hdo: 现在,加州大学圣地亚哥分校的研究人员已经开发了一个单一的纳米级人工神经元设备,以一种非常节省面积和能源的方式在硬件中实现这些计算。由Kuzum和她的博士生Sangheon Oh领导的这项新研究是与加州大学圣地亚哥分校物理学教授Ivan Schuller领导的能源部能源前沿研究中心合作进行的,该中心专注于开发高能效人工神经网络的硬件实现。 :o*{. NVS U)# 该设备实现了神经网络训练中最常用的激活函数之一,称为整流线性单元。这个函数的特别之处在于,它需要能够经历电阻逐渐变化的硬件才能发挥作用,它可以逐渐从绝缘状态切换到导电状态,并且在一点点热量的帮助下完成。这种开关就是所谓的莫特转变。它发生在一个纳米级的二氧化钒薄层中。这层上面是一个由钛和金制成的纳米线加热器。当电流流经纳米线时,二氧化钒层慢慢加热,导致缓慢、可控的从绝缘到导电的转换。 OC#o JwC "6Nma)8 这种设备结构非常有趣和创新,通常情况下,处于莫特过渡期的材料会经历一个从绝缘到导电的突然转换,因为电流直接流过材料。在这种情况下,研究人员将电流流经材料顶部的纳米线,以加热它并诱发一个非常渐进的电阻变化。为了实现这个装置,研究人员首先制造了这些所谓的激活(或神经元)装置的阵列,以及一个突触装置阵列。然后,他们将这两个阵列集成到一个定制的印刷电路板上,并将它们连接在一起,创建一个硬件版的神经网络。 ]8htJ]<|Q 0jrcXN~ 研究人员使用该网络来处理图像,比如加州大学圣地亚哥分校盖瑟图书馆的照片。该网络进行了一种叫做边缘检测的图像处理,它可以识别图像中物体的轮廓或边缘。这项实验表明,集成的硬件系统可以进行卷积操作,这对许多类型的深度神经网络来说是必不可少的。 F04`MY" ) Y\} ,O 研究人员说,该技术可以进一步扩大规模,以完成更复杂的任务,如自动驾驶汽车的面部和物体识别。
|