感谢您对两江的陪伴,两江科技评论给您拜年啦!

本文作者| 李子正
近期,Nature Photonics发表了一篇综述[1],详细总结了利用光子实现人工智能和神经形态计算的研究现状,关于该领域的简介可以看我之前发的:什么是光计算。
Tait, A. N., De Lima, T. F., Zhou, E., Wu, A. X., Nahmias, M. A., Shastri, B. J., & Prucnal, P. R. (2017). Neuromorphic photonic networks using silicon photonic weight banks. Scientific reports, 7(1), 1-10.
Tait, A. N., Nahmias, M. A., Tian, Y., Shastri, B. J., & Prucnal, P. R. (2014). Photonic neuromorphic signal processing and computing. In Nanophotonic Information Physics (pp. 183-222). Springer, Berlin, Heidelberg.
Tait, A. N., Nahmias, M. A., Shastri, B. J., & Prucnal, P. R. (2014). Broadcast and weight: an integrated network for scalable photonic spike processing. Journal of Lightwave Technology, 32(21), 4029-4041.
Tait, A. N., Shastri, B. J., Fok, M. P., Nahmias, M. A., & Prucnal, P. R. (2013). The DREAM: an integrated photonic thresholder. Journal of Lightwave Technology, 31(8), 1263-1272.
De Lima, T. F., Peng, H. T., Tait, A. N., Nahmias, M. A., Miller, H. B., Shastri, B. J., & Prucnal, P. R. (2019). Machine learning with neuromorphic photonics. Journal of Lightwave Technology, 37(5), 1515-1534.
-
Pernice, W. H., Schuck, C., Minaeva, O., Li, M., Goltsman, G. N., Sergienko, A. V., & Tang, H. X. (2012). High-speed and high-efficiency travelling wave single-photon detectors embedded in nanophotonic circuits. Nature communications, 3(1), 1-10.
神经形态工程是将机器学习和人工智能算法的元素,迁移到反映其分布性质的硬件的技术。将硬件与算法进行匹配可以得到更快、更节能的信息处理方式。
由于光子集成平台上光电组件的激增,光子计算的研究蓬勃发展。光子集成电路结合神经形态工程,使超快速人工神经网络成为可能,为新型信息处理机器提供了框架。在这种硬件上运行的算法有望在医疗诊断、通信信息处理以及高性能科学计算等领域中,满足机器学习和人工智能不断增长的算力需求。光子在矩阵线性运算和互联方面相较于电子的优势,已为人所熟知,但在片上存储和神经元权重访问方面,仍存在很多挑战。
加权互联的实现
一对神经元之间的连接由其间的突触加权。这些突触权重是标量乘数。在被下游神经元接收之前,对来自上游神经元的加权信号求和。因此,加权的互连可以由一个矩阵表示。光子系统的一个作用就是执行矩阵乘法,实现输入信号与权重矩阵相乘的过程。

图一 权重或光子突触的实现
非线性与神经元的实现

图二 结合了加权和非线性的光子神经元

图三 尖峰的可激发激光器和谐振器
图二、三展示了关于加权和非线性光子神经元的经典工作。光-电-光神经元利用调制器和光电探测器构成,输入端光-物质作用与输出端光-物质作用相互分开时,使得神经元的输出信号调制到不受光学特性(即输入的功率,相位,模式,波长)影响的新光载波上,这意味着输出强度可以远大于输入。全光神经元则不涉及将神经元信号表表示为电流的过程,而是将其用材料特性的变化体现,例如半导体载体、光学敏感性和光驱动的晶体晶态,避免了光电域切换带来的高延迟和带宽瓶颈。
神经形态结构(神经网络结构)
神经形态硬件体系结构由人工神经网络模型控制。神经网络模型具有许多子类,它们在神经元信号表示、权重配置和网络拓扑方面有所不同。权重配置是指设置权重的方法,它是使网络完成特定的计算任务的关键。可以通过有监督学习、无监督学习或程序化的“编译”来指导配置。如图四所示,可以分为片上集成型(Integrated)网络和自由空间(Free-space)系统。

图四 光子神经网络实现
其中,用于分类的前馈、后馈在光子集成网络中的实现,卷积运算需要在处理和内存访问之间达到微妙的平衡等等,都是光子集成神经网络面临的挑战。尖峰编码打开了全新的关键的无监督可塑性方法,特别是依赖于尖峰时序的可塑性在许多核心领域具有不可或缺性。除了机器学习和分类之外,对神经网络进行编程以解决具有挑战性的数学问题,特别是非线性微分方程和非线性优化问题的解决,也至关重要。
光子储备池计算(RC)
光子储层计算在光子信息处理中是一个日益增长的兴趣和重要性领域。储备池计算网络由随机连接和非线性网络(储备池)组成,之后附加一个读出层。储备池对输入信号产生响应,得到大量复杂的可能行为,之后对读出层进行训练,以选择性地解决感兴趣的特定计算问题。
光子储备池计算系统通过将光学延迟(delay)与光电检测器+调制器(PD&modulator)、光学放大器(optical amplifier)、半导体非线性(semiconductor nonlinearity)、或递归干涉仪网格(recurrent interferometer mesh)相结合,来实现动态复杂性。
尽管储备池和神经形态方法在神经科学中都有共同的根源,但它们代表了信息处理的补充方法。所有神经形态系统,都需要在物理硬件和神经网络模型之间实现同构,但储备池计算网络不需要这样的同构。储备池计算网络只需要在读出层进行有监督训练,从而读出所需的行为。所以尽管其行为复杂,但用光子元件可以较为简单地将其构造。
迈向神经形态光子处理器(OPU)

图五 迈向神经形态光子处理器
总结
[1] Shastri, B. J., Tait, A. N., de Lima, T. F., Pernice, W. H., Bhaskaran, H., Wright, C. D., & Prucnal, P. R. (2021). Photonics for artificial intelligence and neuromorphic computing. Nature Photonics, 15(2), 102-114.
免责声明:本文旨在传递更多科研资讯及分享,所有其他媒、网来源均注明出处,如涉及版权问题,请作者第一时间后台联系,我们将协调进行处理(按照法规支付稿费或立即删除),所有来稿文责自负,两江仅作分享平台。转载请注明出处,如原创内容转载需授权,请联系下方微信号。


