大数跨境

干货| NatPho:人工智能和神经形态计算的光子学

干货| NatPho:人工智能和神经形态计算的光子学 两江科技评论
2021-02-11
3
导读:总结了利用光子实现人工智能和神经形态计算的研究现状


春节快乐,恭喜发财!


感谢您对两江的陪伴,两江科技评论给您拜年啦!




本文作者| 李子正


近期,Nature Photonics发表了一篇综述[1],详细总结了利用光子实现人工智能和神经形态计算的研究现状,关于该领域的简介可以看我之前发的:什么是光计算

作者列表里是几个熟悉的名字:Bhavin J. Shastri,Alexander N. Tait,T. Ferreira de Lima, Wolfram H. P. Pernice ,Harish Bhaskaran,Paul R. Prucnal。这里列几篇他们比较著名的文章,各位是不是有些眼熟:
  • Tait, A. N., De Lima, T. F., Zhou, E., Wu, A. X., Nahmias, M. A., Shastri, B. J., & Prucnal, P. R. (2017). Neuromorphic photonic networks using silicon photonic weight banks. Scientific reports7(1), 1-10.

  • Tait, A. N., Nahmias, M. A., Tian, Y., Shastri, B. J., & Prucnal, P. R. (2014). Photonic neuromorphic signal processing and computing. In Nanophotonic Information Physics (pp. 183-222). Springer, Berlin, Heidelberg.

  • Tait, A. N., Nahmias, M. A., Shastri, B. J., & Prucnal, P. R. (2014). Broadcast and weight: an integrated network for scalable photonic spike processing. Journal of Lightwave Technology32(21), 4029-4041.

  • Tait, A. N., Shastri, B. J., Fok, M. P., Nahmias, M. A., & Prucnal, P. R. (2013). The DREAM: an integrated photonic thresholder. Journal of Lightwave Technology31(8), 1263-1272.

  • De Lima, T. F., Peng, H. T., Tait, A. N., Nahmias, M. A., Miller, H. B., Shastri, B. J., & Prucnal, P. R. (2019). Machine learning with neuromorphic photonics. Journal of Lightwave Technology37(5), 1515-1534.

  • Pernice, W. H., Schuck, C., Minaeva, O., Li, M., Goltsman, G. N., Sergienko, A. V., & Tang, H. X. (2012). High-speed and high-efficiency travelling wave single-photon detectors embedded in nanophotonic circuits. Nature communications3(1), 1-10.

神经形态工程是将机器学习和人工智能算法的元素,迁移到反映其分布性质的硬件的技术。将硬件与算法进行匹配可以得到更快、更节能的信息处理方式。

由于光子集成平台上光电组件的激增,光子计算的研究蓬勃发展。光子集成电路结合神经形态工程,使超快速人工神经网络成为可能,为新型信息处理机器提供了框架。在这种硬件上运行的算法有望在医疗诊断、通信信息处理以及高性能科学计算等领域中,满足机器学习和人工智能不断增长的算力需求。光子在矩阵线性运算和互联方面相较于电子的优势,已为人所熟知,但在片上存储和神经元权重访问方面,仍存在很多挑战。



  • 加权互联的实现

一对神经元之间的连接由其间的突触加权。这些突触权重是标量乘数。在被下游神经元接收之前,对来自上游神经元的加权信号求和。因此,加权的互连可以由一个矩阵表示。光子系统的一个作用就是执行矩阵乘法,实现输入信号与权重矩阵相乘的过程。

图一  权重或光子突触的实现

图一展示了用于矩阵乘法和加权互连的各种集成光子线路,可以分为两类:一类基于波长,另一类基于光学模式。第一类通过一系列可调谐微环谐振腔(MRR)、半导体光放大器(SOA)、相变材料(PCM)等实现加权,结合波分复用形成广播-权重(Broadcast-and-Weight)体系结构。第二类利用分束器、移相器或马赫曾德干涉仪(MZI)构成的网络实现矩阵酉变换。对于电光器件的调控,常利用热光效应和载流子吸收、弥散效应,对于全光器件组成的网络,利用相变材料构建非易失性突触。


  • 非线性与神经元的实现

在所有神经网络模型中,主要信号通路都需要某种形式的非线性来实现神经元的阈值作用。许多光子器件表现出类似于神经元或门一样的传递函数的非线性传递函数。然而,仅非线性响应不足以使光子器件充当神经元。光子神经元必须能够对多个光输入做出反应(扇入),施加非线性并产生适合驱动其他类似光子神经元的光输出(级联)。根据神经元内信号的物理表示形式,这些方法可分为两大类:光-电-光(O/E/O)神经元全光神经元

图二  结合了加权和非线性的光子神经元

图三  尖峰的可激发激光器和谐振器

图二、三展示了关于加权和非线性光子神经元的经典工作。光-电-光神经元利用调制器和光电探测器构成,输入端光-物质作用与输出端光-物质作用相互分开时,使得神经元的输出信号调制到不受光学特性(即输入的功率,相位,模式,波长)影响的新光载波上,这意味着输出强度可以远大于输入。全光神经元则不涉及将神经元信号表表示为电流的过程,而是将其用材料特性的变化体现,例如半导体载体、光学敏感性和光驱动的晶体晶态,避免了光电域切换带来的高延迟和带宽瓶颈。



  • 神经形态结构(神经网络结构)

神经形态硬件体系结构由人工神经网络模型控制。神经网络模型具有许多子类,它们在神经元信号表示、权重配置和网络拓扑方面有所不同。权重配置是指设置权重的方法,它是使网络完成特定的计算任务的关键。可以通过有监督学习、无监督学习或程序化的“编译”来指导配置。如图四所示,可以分为片上集成型(Integrated)网络和自由空间(Free-space)系统。

图四  光子神经网络实现

其中,用于分类的前馈、后馈在光子集成网络中的实现,卷积运算需要在处理和内存访问之间达到微妙的平衡等等,都是光子集成神经网络面临的挑战。尖峰编码打开了全新的关键的无监督可塑性方法,特别是依赖于尖峰时序的可塑性在许多核心领域具有不可或缺性。除了机器学习和分类之外,对神经网络进行编程以解决具有挑战性的数学问题,特别是非线性微分方程和非线性优化问题的解决,也至关重要。



  • 光子储备池计算(RC)

光子储层计算在光子信息处理中是一个日益增长的兴趣和重要性领域。储备池计算网络由随机连接和非线性网络(储备池)组成,之后附加一个读出层。储备池对输入信号产生响应,得到大量复杂的可能行为,之后对读出层进行训练,以选择性地解决感兴趣的特定计算问题。

光子储备池计算系统通过将光学延迟(delay)与光电检测器+调制器(PD&modulator)、光学放大器(optical amplifier)、半导体非线性(semiconductor nonlinearity)、或递归干涉仪网格(recurrent interferometer mesh)相结合,来实现动态复杂性

尽管储备池和神经形态方法在神经科学中都有共同的根源,但它们代表了信息处理的补充方法。所有神经形态系统,都需要在物理硬件神经网络模型之间实现同构,但储备池计算网络不需要这样的同构。储备池计算网络只需要在读出层进行有监督训练,从而读出所需的行为。所以尽管其行为复杂,但用光子元件可以较为简单地将其构造。



  • 迈向神经形态光子处理器(OPU)

图五展示了采用市售光子封装技术的概念性系统级封装以及集成光子学领域的一些新兴思想。在所有架构,都需要用于网络参数的校准和控制的复杂片上电子电路,并且需要产生光,片上光源类组件尚未在当前的商用硅光子平台上广泛使用,片上光源激光器的制造存在巨大的挑战。光子神经形态处理器中,易失性和非易失性光存储、系统的校正和抗干扰、基于光频梳的WDM片上光源、绝缘子上锂酸铌调制器、光子数模转换器,都是亟待解决与优化的问题。

图五  迈向神经形态光子处理器




  • 总结

神经形态光子学是与神经网络与光电子硬件的同构性创造。由于这种同构,光子神经网络将具有非凡的功能,展现出强大的技术潜力和社会需求,并将充分利用现有的算法方法进行编程和训练,实现跨越式发展。需要进行持续的研究,来验证光子计算相较于电子计算的优势,并使大量更为优秀先进的技术与应用脱颖而出。

[1] Shastri, B. J., Tait, A. N., de Lima, T. F., Pernice, W. H., Bhaskaran, H., Wright, C. D., & Prucnal, P. R. (2021). Photonics for artificial intelligence and neuromorphic computing. Nature Photonics15(2), 102-114.

免责声明:本文旨在传递更多科研资讯及分享,所有其他媒、网来源均注明出处,如涉及版权问题,请作者第一时间后台联系,我们将协调进行处理按照法规支付稿费或立即删除),所有来稿文责自负,两江仅作分享平台。转载请注明出处,如原创内容转载需授权,请联系下方微信号。

【声明】内容源于网络
0
0
两江科技评论
聚焦“光声力热”超构材料、凝聚态物理、生物医学、智能制造等领域,打造科研人便捷的交流平台,发布优质新鲜的科研资讯。
内容 6001
粉丝 0
两江科技评论 聚焦“光声力热”超构材料、凝聚态物理、生物医学、智能制造等领域,打造科研人便捷的交流平台,发布优质新鲜的科研资讯。
总阅读15.3k
粉丝0
内容6.0k