艺术家对光声计算的印象。Credit: Long Huy Da
研究人员已经开发出一种在光学神经网络中使用声波的方法,提高了它们高速和节能处理数据的能力。
光神经网络可以提供处理具有挑战性的计算任务所需的高速和大容量解决方案。然而,要充分挖掘它们的潜力,还需要进一步的进展。其中一个挑战是雷达光神经网络的可重构性。
马克斯普朗克光科学研究所斯蒂勒研究小组的一个研究小组与麻省理工学院的英格伦研究小组合作,现已成功地为新探测奠定了基础通过向照片添加一个新的维度来构建可重构的神经形态模块Nic机器学习:声波。
研究人员利用光在光纤中产生暂时的声波。例如,以这种方式产生的声波可以使循环功能成为可能电信光纤的质量对口译至关重要非文本信息,如语言。
人工智能与能源效率
人工智能现在很常见,它帮助我们处理日常事务。像ChatGPT这样的语言模型能够创建自然表述的文本,并以结构化的方式总结段落,从而帮助我们减少管理开销。缺点是它们巨大的能量需求,这意味着随着它们的发展,这些智能设备将需要新的解决方案来加速信号处理并降低能耗。
比吉特·斯蒂勒博士和史蒂文·贝克尔在实验室。Credit:苏珊娜·维赞斯,MPL
光学神经网络:一个新的前沿
神经网络有可能成为人工智能的支柱。将它们构建为光学神经网络——基于光而不是电信号——有望以高速和高能效处理大量数据。然而,迄今为止,许多实现光学神经网络的实验方法都依赖于固定的组件和稳定的设备。
现在,由马克斯-普朗克光科学研究所的Birgit Stiller领导的一个国际研究小组,与麻省理工学院的Dirk Englund合作,已经找到了一种基于声波为光子机器学习构建可重构构件的方法。在他们的实验方法中,研究人员使用了细如头发的光纤,这种光纤已经在全球范围内用于快速互联网连接。
光脉冲所携带的信息被部分地转换成声波。即使光脉冲离开光纤,信息仍然留在声波中。这个初始声波影响第二步和第三步光声处理,随后的输入脉冲携带不同于前一步的信息。因此,声波以时间分离的动态方式连接,并作为信息传播的媒介。资料来源:MPL斯蒂勒研究小组
声波增强光网络
这项发明的关键是光驱动的传播声波的创造,它可以操纵光学神经网络的后续计算步骤。光信息经过处理并与声波相关联。声波的传输时间比光信息流要长得多。因此,它们在光纤中停留的时间更长,并且可以依次连接到每个后续处理步骤。这个过程的独特之处在于它完全由光控制,不需要复杂的结构和换能器。
“我非常兴奋,我们已经开始了这条新的研究路线,率先使用声波来控制光学神经网络。我们的研究结果有可能激发新的光子计算架构的新型构建模块的发展,”量子光声学研究小组负责人Birgit Stiller博士说。
该团队通过实验证明的第一个构建块是一个循环算子,这是一种广泛应用于循环神经网络领域的技术。它允许链接一系列计算步骤,因此为执行的每个计算步骤提供上下文。
光网络中的周期性操作
例如,在人类语言中,单词的顺序可以决定句子的意思。例如,这两个句子“她决定研究这个挑战。和“她决定挑战这项研究。”由相同的单词组成,但具有不同的含义。这是因为单词的顺序造成了不同的语境。计算机上传统的全连接神经网络很难捕捉上下文,因为它需要访问记忆。为了克服这一挑战,神经网络已经配备了循环操作,以实现内部记忆并能够捕获上下文信息。
虽然这些递归神经网络可以直接实现数字化,但在光学领域的类似实现具有挑战性,迄今为止依赖于人工空腔来提供记忆。
研究人员现在已经使用声波来实现一个循环操作员。因此,光声循环算子(OREO)利用了光波导的固有特性,而不需要人工储层或新制造的结构。OREO提供了完全光学控制的优势,使光声计算机在脉冲的基础上可编程。例如,研究人员首次使用这种技术实现了光学上的循环dropout,这种调节技术以前只用于提高数字循环神经网络的性能。OREO已经被用来区分多达27种不同的模式,证明了它处理上下文的能力。
照片的未来潜力nic机器学习
“OREO的全光学控制是一个强大的功能。特别是在一个脉冲一个脉冲的基础上对系统进行编程的可能性,提供了几个额外的自由度。使用声波进行光子机器学习正在打破现状,我非常渴望看到该领域未来将如何发展,”斯蒂勒实验室的博士生史蒂文·贝克尔说。
在未来,将声波用于光学神经网络可以开启一类新的光学神经形态计算,这种计算可以自发地重新配置,并允许在当前的电信网络中进行大规模的内存计算。此外,光神经网络的片上实现也可以受益于这种方法,它可以在光子波导中实现,而无需额外的电子控制。
“光子机器学习可能在并行处理信息和节能操作方面具有巨大潜力。添加声波可以通过全光学控制和易于操作的工具包为这一努力做出贡献,”Birgit Stiller博士说。
参考文献:“用于循环神经网络的光声场可编程感知器”,作者:Steven Becker, Dirk Englund和Birgit Stiller, 2024年4月16日,Nature Communications。DOI: 10.1038 / s41467 - 024 - 47053 - 6