Photonics Research: 菲涅尔数——优化衍射神经网络的新维度

撰稿|由课题组供稿

近日，复旦大学物理学系光子晶体课题组利用调控衍射相关的菲涅尔数实现了优化衍射神经网络的表达能力。相关研究成果近日以“Optimize Performance of a Diffractive Neural Network by Controlling the Fresnel Number”为题，在线发表在Photonics Research上。文章的第一作者为郑敏嘉博士生，通讯作者是复旦大学的资剑教授和石磊教授。

计算机视觉算法通常需要大规模的并行计算，例如卷积、大型矩阵或向量-矩阵乘法。为了满足更高的算力和更低的能耗需求，光学神经网络（Optical Neural Network, ONN）应运而生。与电子设备相比，ONN具有高并行性、高速计算和低能耗的优势。最近，衍射深度神经网络（Deep Diffractive Nerual Network, D²NN）的全光神经网络框架被提出，它可以在光速下提供光学衍射操作，并实现神经元之间数亿级的连接。

在制备D²NN过程中，误差与工作波长成正比。这导致比红外短的波长下，他的性能低于预期。此外，在D²NN中增强隐藏层数量以获得更好的数值模拟性能的同时，多层对齐的问题导致的误差积累问题也会加剧。随着神经元数和层数不断增长，D²NN的实现难度也随之提高。因此，在保持网络性能的同时，如何降低其空间复杂度值得进一步研究。

研究团队引入了一种新的方法，通过控制描述衍射效应的菲涅尔数(由衍射元件尺寸，工作波长和衍射距离决定)来设计D2NN。只需要使实验参数达到最佳的菲涅尔数区间内，衍射神经网络的性能会达到最佳，可以最大程度上减少网络的空间复杂度（如图1）。

图1 (a)深度和(b)单层衍射神经网络(DNN)框架示意图。(c)整个衍射和多层相位调制过程可以看作是衍射矩阵M的矩阵乘法。(d)不同菲涅尔数的单层衍射神经网络的衍射矩阵可以用M_A(~10¹)、M_B (~10^-3)和M_C (~10^-5)表示。

基于这个区间，研究者提出了单层衍射神经网络，因为它的空间复杂度几乎是最小的。研究者发现即使是单隐藏层的衍射神经网络也能提供优秀的表达能力。在数值实验中，MNIST手写数字识别任务实现了94.94%的盲测正确率，最高达到了97.08%的正确率（如图3）。

图2 单层衍射神经网络的实验设置示意图。将光束照射在DMD上显示MNIST数据集中的数字图像并传播到SLM。SLM对光场相位进行调制，通过分束镜(BS)进行反射，并由CMOS相机接收入射光。当衍射距离d固定时，将数字的图像尺寸调整为N和N_r，以显示不同的菲涅尔数。

在实验中，研究团队使用可编程数字微镜器件（DMD）形成数据集的输入，使用反射纯相位液晶空间光调制器（LC-SLM）作为隐藏层，以及使用CMOS图像传感器来读取输出层的光强分布，工作波长为515 nm（如图2）。团队测试了1000个样本，获得了92.70%的准确率。

图3 (a)MNIST手写输入数字图像。在输出平面上分别设置十个光强检测区域，强度之和最大的检测区域显示预测答案。(b)数值模拟测试集10000张图像的数值测试结果，达到了最大94.94%的正确率。(c)在实验中，测试集使用1000个不同的手写数字作为输入，达到了92.70%的正确率。

为了进一步说明菲涅耳数与衍射神经网络性能之间的关系，研究者对不同菲涅尔数的网络进行了数值和实验测试。

图4 不同菲涅耳数的单层衍射神经网络在手写数字分类任务中的正确率。对于不同的工作波长，DNN具有相同的最佳菲涅尔数范围，大约在10^-4到10^-2之间。

在不同波长下，菲涅尔数有一个相同的网络性能最佳范围，大约在10^-4到10^-2之间。研究团队通过将DMD上的输入图像分辨率从最初的200x200调整为50x50、500x500和800x800，实现了在固定衍射距离的同时改变等效的菲涅尔数。另外三个实验的正确率分别为64.10%、86.60%和74.10%（如图4）。

研究团队提出了一种优化衍射相关参数——菲涅尔数的新方法，在最小化空间复杂度的情况下提高网络的表达能力并优化衍射神经网络的性能，有助于实现更复杂和更小型化的全光神经网络。在最佳的菲涅尔数区间内，单隐藏层的衍射神经网络可用于完成一些图像分类任务。随着空间复杂度的降低，在较短波长下实现衍射神经网络成为可能。研究团队利用单层衍射神经网络在MNIST手写识别任务中的性能进行了数值测试，达到了最高97.08%的正确率。接下来，研究团队在可见范围内通过实验实现了以DMD作为输入层和SLM作为隐藏层的单层衍射神经网络，并在实验测试中得到了92.70%的正确率。

文章链接：

http://www.researching.cn/EN/Article/OJcf6b57f4b07f3ad0