研究人员开发出高效光学神经网络
洛桑联邦理工学院(EPFL)的研究人员发布了一个可编程框架,该框架克服了基于光学的人工智能系统的一个关键计算瓶颈。在一系列图像分类实验中,他们利用来自低功率激光器的散射光来执行精确、可扩展的计算,而使用的能量仅为电子设备的一小部分。 ,"U_oa3
[attachment=129844] KCc7u8
可编程框架 }=T=Z#OgH 随着数字人工智能系统的规模和影响不断扩大,训练和部署这些系统所需的能源也在增加,更不用说相关的碳排放了。最近的研究表明,如果目前的人工智能服务器生产继续保持目前的速度,到 2027 年,其年能耗将超过一个小国的能耗。 N,F$^ q6 受人脑架构启发的深度神经网络,由于在多层神经元式处理器之间存在数百万甚至数十亿个连接,因此特别耗电。 .QVZ! 为了应对如雨后春笋般增长的能源需求,研究人员加倍努力实现光计算系统。这些系统依靠光子来处理数据,虽然理论上光可以比电子更快、更有效地进行计算,但一个关键的挑战阻碍了光学系统超越电子技术水平的能力。 C]'ru Demetri Psaltis说:“我们的方法比最先进的深度数字网络省电多达 1000 倍,是实现光神经网络的一个前景广阔的平台。为了对神经网络中的数据进行分类,每个节点或'神经元'都必须根据加权输入数据做出是否启动的决定”。洛桑联邦理工学院工程学院应用光子器件实验室主任Christophe Moser说:“这一决定会导致所谓的数据非线性转换,即输出与输入不成正比。" N`1W"Rx! Moser解释说,虽然数字神经网络可以通过晶体管轻松实现非线性变换,但在光学系统中,这一步骤需要非常强大的激光器。 8{ooLdpX7 Moser与学生 Mustafa Yildirim、Niyazi Ulas Dinc 和 Ilker Oguz 以及光学实验室负责人 Demetri Psaltis 合作,开发出了一种以光学方式执行这些非线性计算的节能方法。 g*%z{w 他们的新方法包括在低功率激光束的空间调制中对数据(如图像的像素)进行编码。光束会多次反射回自身,从而实现像素的非线性倍增。 f tE2@} Psaltis说:“我们在三个不同数据集上进行的图像分类实验表明,我们的方法具有可扩展性,比最先进的深度数字网络省电1000倍,是实现光学神经网络的一个前景广阔的平台。” #BLmT-cl 这项研究最近发表在《自然·光子学》(Nature Photonics)上。 _dk/SWb)
[attachment=129845] k 3S 光学处理器的核心。 P<s0f:". 简单的结构解决方案 lU&[){ 在自然界中,光子之间并不像带电电子那样直接相互作用。因此,为了在光学系统中实现非线性变换,科学家们不得不 "迫使 "光子间接地相互作用,例如使用足够强的光来改变其穿过的玻璃或其他材料的光学特性。 ;I@@PUnR 科学家们采用了一种非常简单的方法来解决对高功率激光的需求:他们在低功率激光束表面对图像像素进行空间编码。通过调整光束在编码器中的轨迹,进行两次编码,像素就会乘以它们自己,即平方。 hiBZZ+^[ 由于平方是一种非线性变换,因此这种结构上的改变实现了神经网络计算所必需的非线性,而所需的能量成本却很低。这种编码可以进行两次、三次甚至十次,从而提高变换的非线性和计算的精确度。 ZA {T0: Psaltis说:“我们估计,使用我们的系统,光学计算乘法所需的能量要比电子系统少八个数量级。” C0v1x=(xiM Moser 和 Psaltis 强调,他们的低能耗方法的可扩展性是一大优势,因为最终目标是使用电子-光学混合系统来降低数字神经网络的能耗。 Ap)[;_9BD 然而,要实现这种可扩展性,还需要进一步的工程研究。例如,由于光学系统使用的硬件与电子系统不同,研究人员下一步已经着手开发一种编译器,将数字数据转换成光学系统可以使用的代码。 4/:}K>S_ 相关链接:https://phys.org/news/2024-08-energy-efficient-optical-neural-networks.html 5@&{%99 论文链接:https://dx.doi.org/10.1038/s41566-024-01494-z
|