基于半监督学习和深度生成模型的超材料设计

在过去的超材料研究中，尽管数值计算的方法可以精确地模拟出特定超材料结构所对应的光学响应，但基于用户需求的超材料反向设计还是一项具有挑战性的问题，其主要难点是超材料的物理结构与其光学响应之间的关系是非直观、非一一对应的。为解决这个问题，美国东北大学刘咏民教授的课题组提出了一种基于深度生成模型（deep generative model）的超材料建模和反向设计方法。该项工作近日以“Probabilistic Representation and Inverse  Design  of Metamaterials  Based  on  a Deep Generative Model  with Semi-Supervised Learning Strategy”为题在期刊Advanced Materials上发表^[1]。

研究人工超材料，我们可以通过对微观结构进行设计从而得到所需要的宏观光学响应。目前，在该领域中通用的设计方法是基于简化的物理解析模型及相关的专家经验。尽管可以得到所需的光学响应，但从本质上说，这种方法是基于错误的反复尝试（trial-and-error），并且通常依赖于耗时的数值计算来完成的，除了效率很低外，还很有可能错过最佳的设计参数。在过去的几年中，统计机器学习方法在语言识别、机器视觉、自然语言处理等领域发展迅速，利用多层神经网络的深度学习更是近年来该领域最受关注的方法之一，在材料科学^[2-4]、化学^[5-7]以及量子力学^[8]等领域中都有运用。

为解决上述问题，刘教授的研究团队创新地将生成模型运用到超材料设计中来。在所研究的物理情景中，超材料结构由64×64的二维图像组成，光学响应通过三组线性偏振的反射光谱（R_xy, R_yy, R_xy = R_yx）表示。所提出的深度生成模型中包含一个编码器-解码器（encoder-decoder）结构，并引入隐变量（latent variables）作为超材料结构设计和光谱响应的特征表达。通过这样的方法，研究人员将设计的结构与相应的光学响应编码到了隐空间（latent space），然后通过对隐空间概率分布采样而得的隐变量解码进行计算，从而得到新的反向设计参数。这种方法可以使我们成功得到多个适合需求的设计，其设计思路是在人工超材料的设计过程中获得了启发，将相似的结构在隐空间中聚类，然后在各个类中寻找结构参数获得所需的光学响应。

总的来说，所提出的方法具有以下四个方面的创新之处：

· 所提出的基于概率生成方法模型可以同时解决正向和反向的超材料设计问题，更好地揭示物理结构与光学响应之间的关系，能够得到多样的候选结构；

· 该模型可以有效解决“一对多”的问题。对于同样的预设光学响应，生成模型可以快速得到多种满足要求的超材料结构，这是传统的数值仿真及优化算法难以达到的；

· 结合隐变量编码方法，所提出的模型可以将半监督学习的方法用于训练，这种方法可以有效减轻通过数值计算收集训练样本的负担；

·  这里所提出的模型具有较强的普适性，不仅可以用来设计平面超材料，也可以用来设计三维的手性超材料及其他的超材料结构

图一（a）是本研究工作的示意图，超材料设计结构与相应的光学响应被编码到隐空间，反向设计过程则通过对隐空间采样而得到的隐变量来完成。图一（b）是本工作中提出的深度生成模型，由三个子模型组成。它们分别是识别模型（recognition model）、预测模型（prediction model）和生成模型（generative model）。其中识别模型用于将超材料结构与相应的光学响应编码到隐空间，预测模型用于预测给定超材料结构的光学响应，生成模型则对于给定的需求，通过光学响应与采样的隐变量得到反向设计的超材料结构。

图一. 本研究工作中的（a）示意图和（b）深度生成模型。

在图二（a）中展示的是迭代训练300000步之后得到的超材料结构，可以看到模型预测的结构逐渐准确地接近了输入的结构，这表明预测模型可以准确地表征超材料单元的分布。图二（b）和（c）分别是通过结构与通过光谱区分的隐空间分布（实例展示了三种典型设计结构，十字、劈裂环和H形，可以看到三种不同结构被模型区分映射到隐空间的不同区域）。

图二. （a）预测模型所得到的结构随迭代次数的变化。超材料单元在基于（b）设计结构参数与（c）响应光谱的潜在空间分布。

图三中所展示的是通过三组测试集中随机选取的超材料结构来测试模型的表现，图三（a, d, g）表示三组所选取的结构、数值模拟得到的光学响应以及模型预测的光学响应，从中可看出预测模型与数值模拟所得到的光学响应非常吻合，这表明预测模型可以较为快速地准确预测出给定超材料结构的光学响应。图三（b, c, e, f, h, i）展示生成模型的反向设计结果以及相对应的光学响应。所有的结果都准确再现了输入的超材料结构及其对应的光学响应，这表明生成模型可以有效地用于超材料反向设计。

图三. 测试集随机选取三组超材料结构测试模型的表现。（a, d, g）所选结构、数值仿真及预测模型得到的光学响应。（b, e, h, c, f, i）生成模型反向设计得到的超材料结构及对应光学响应。

图四中展示了根据特定需求的超材料反向设计，所需的光学响应分别为（a）R_xx = 60 THz和R_yy = 80 THz的单峰谐振，（b）R_xx = 70 THz的单峰谐振以及（c）R_yy = 60 THz和R_yy = 80 THz的双峰谐振。图四最上面一行代表所需的光学响应，下面两行对应通过生成模型反向设计得到的超材料结构。可以看出，对于同样的光学响应，生成模型可以得到多种结构很不一样的超材料设计，这是传统方法难以达到的。

图四. 按需的超材料反向设计。所需的光学响应为（a）R_xx = 60 THz和R_yy = 80 THz的单峰谐振，（b）R_xx = 70 THz的单峰谐振以及（c）R_yy = 60 THz和R_yy = 80 THz的双峰谐振。

文中所提到的模型不仅可以用于平面超材料与线性偏振光入射的情况，也可以被用在其他的物理情景下。作者在图五中展示该模型用于三维手性材料的反向设计上。这里所考虑的手性材料是以金作为基底的双层结构，其手性响应通过该结构的圆二色性（circular dichroism, CD）来表征。图五（a）和（b）中显示所需正CD光谱谐振频率为60 THz时所反向设计的结构，图五（c）和（d）中显示所需负CD光谱谐振频率为80 THz时所反向设计的结构。可以看出CD光谱被所设计的手性超材料准确地还原出来。这表明文中所提出的模型能够被用于设计类似手性材料这样的三维复杂超材料结构。

图五. 运用模型进行三维手性超材料的反向设计。（a, b）60 THz正CD光谱及（c, d）80 THz负CD光谱的反向设计超材料结构及光学响应。

本文中，作者提出了一种基于概率图的深度生成模型用于解决超材料的设计问题。给定超材料设计结构，利用所提出的模型可以快速预测其光学响应。另外，给定所需的光学响应，模型可以通过对隐空间的概率采样得到反向设计的超材料结构。最后，通过编码解码的过程，作者引入半监督学习机制，这减轻了获取所需训练数据时数值计算负担。这种高效灵活的模型在超材料、光学领域具有广泛的运用价值。

参考文献

[1] Wei Ma, Feng Cheng, Yihao Xu, Qinlong Wen and Yongmin Liu, "Probabilistic Representation and Inverse Design of Metamaterials Based on a Deep Generative Model with Semi-Supervised Learning Strategy" Advanced Materials, https://doi.org/10.1002/adma.201901111 , online publication (2019)

[2] Rampi Ramprasad, Rohit Batra, Ghanshyam Pilania, Arun Mannodi-Kanakkithodi and Chiho Kim, "Machine Learning in Materials Informatics: Recent Applications and Prospects." Npj Computational Materials. 3, no. 1, 54 (2017)

[3] Benjamin Sanchez-Lengeling and Alán Aspuru-Guzik, "Inverse Molecular Design Using Machine Learning: Generative Models for Matter Engineering." Science. 361, no. 6400, 360-65 (2018)

[4] Wei Ma, Feng Cheng and Yongmin Liu, "Deep-learning-enabled on-demand design of chiral metamaterials." ACS nano 12, no. 6, 6326-6334 (2018)

[5] Garrett B. Goh, Nathan O. Hodas and Abhinav Vishnu, "Deep learning for computational chemistry." Journal of Computational chemistry 38, no. 16, 1291-1307 (2017)

[6] Tian Xie and Jeffrey C. Grossman, "Crystal graph convolutional neural networks for an accurate and interpretable prediction of material properties." Physical Review Letters 120, no. 14, 145301 (2018)

[7] Kristof T. Schütt, Farhad Arbabzadah, Stefan Chmiela, Klaus R. Müller and Alexandre Tkatchenko, "Quantum-chemical insights from deep tensor neural networks." Nature Communications 8, 13890 (2017)

[8] Giuseppe Carleo and Matthias Troyer, "Solving the quantum many-body problem with artificial neural networks." Science 355, no. 6325, 602-606 (2017)