研究人员开发出高效光学神经网络

发布:cyqdesign 2024-08-07 09:54 阅读:197

洛桑联邦理工学院(EPFL)的研究人员发布了一个可编程框架,该框架克服了基于光学人工智能系统的一个关键计算瓶颈。在一系列图像分类实验中,他们利用来自低功率激光器的散射光来执行精确、可扩展的计算,而使用的能量仅为电子设备的一小部分。

可编程框架

随着数字人工智能系统的规模和影响不断扩大,训练和部署这些系统所需的能源也在增加,更不用说相关的碳排放了。最近的研究表明,如果目前的人工智能服务器生产继续保持目前的速度,到 2027 年,其年能耗将超过一个小国的能耗。

受人脑架构启发的深度神经网络,由于在多层神经元式处理器之间存在数百万甚至数十亿个连接,因此特别耗电。

为了应对如雨后春笋般增长的能源需求,研究人员加倍努力实现光计算系统。这些系统依靠光子来处理数据,虽然理论上光可以比电子更快、更有效地进行计算,但一个关键的挑战阻碍了光学系统超越电子技术水平的能力。

Demetri Psaltis说:“我们的方法比最先进的深度数字网络省电多达 1000 倍,是实现光神经网络的一个前景广阔的平台。为了对神经网络中的数据进行分类,每个节点或'神经元'都必须根据加权输入数据做出是否启动的决定”。洛桑联邦理工学院工程学院应用光子器件实验室主任Christophe Moser说:“这一决定会导致所谓的数据非线性转换,即输出与输入不成正比。"

Moser解释说,虽然数字神经网络可以通过晶体管轻松实现非线性变换,但在光学系统中,这一步骤需要非常强大的激光器

Moser与学生 Mustafa Yildirim、Niyazi Ulas Dinc 和 Ilker Oguz 以及光学实验室负责人 Demetri Psaltis 合作,开发出了一种以光学方式执行这些非线性计算的节能方法。

他们的新方法包括在低功率激光束的空间调制中对数据(如图像的像素)进行编码。光束会多次反射回自身,从而实现像素的非线性倍增。

Psaltis说:“我们在三个不同数据集上进行的图像分类实验表明,我们的方法具有可扩展性,比最先进的深度数字网络省电1000倍,是实现光学神经网络的一个前景广阔的平台。”

这项研究最近发表在《自然·光子学》(Nature Photonics)上。

光学处理器的核心。

简单的结构解决方案

在自然界中,光子之间并不像带电电子那样直接相互作用。因此,为了在光学系统中实现非线性变换,科学家们不得不 "迫使 "光子间接地相互作用,例如使用足够强的光来改变其穿过的玻璃或其他材料的光学特性。

科学家们采用了一种非常简单的方法来解决对高功率激光的需求:他们在低功率激光束表面对图像像素进行空间编码。通过调整光束在编码器中的轨迹,进行两次编码,像素就会乘以它们自己,即平方。

由于平方是一种非线性变换,因此这种结构上的改变实现了神经网络计算所必需的非线性,而所需的能量成本却很低。这种编码可以进行两次、三次甚至十次,从而提高变换的非线性和计算的精确度。

Psaltis说:“我们估计,使用我们的系统,光学计算乘法所需的能量要比电子系统少八个数量级。”

Moser 和 Psaltis 强调,他们的低能耗方法的可扩展性是一大优势,因为最终目标是使用电子-光学混合系统来降低数字神经网络的能耗。

然而,要实现这种可扩展性,还需要进一步的工程研究。例如,由于光学系统使用的硬件与电子系统不同,研究人员下一步已经着手开发一种编译器,将数字数据转换成光学系统可以使用的代码。

相关链接:https://phys.org/news/2024-08-energy-efficient-optical-neural-networks.html

论文链接:https://dx.doi.org/10.1038/s41566-024-01494-z

分享到:

最新评论

我要发表 我要评论
限 50000 字节
关于我们
网站介绍
免责声明
加入我们
赞助我们
服务项目
稿件投递
广告投放
人才招聘
团购天下
帮助中心
新手入门
发帖回帖
充值VIP
其它功能
站内工具
清除Cookies
无图版
手机浏览
网站统计
交流方式
联系邮箱:广告合作 站务处理
微信公众号:opticsky 微信号:cyqdesign
新浪微博:光行天下OPTICSKY
QQ号:9652202
主办方:成都光行天下科技有限公司
Copyright © 2005-2024 光行天下 蜀ICP备06003254号-1