撰稿|陈威、高源
近日，ChatGPT (Generative Pre-trained Transformer)因其卓越的对话能力在社会各界引起了广泛关注，备受瞩目，俨然成为了一种新文化现象。其采用的Transformer框架自2017年被提出后，在自然语言处理，计算机视觉等领域产生了深远影响。最近，厦门大学电子科学与技术学院朱锦锋教授课题组对Transformer框架进行了深入研究，并基于Transformer模型提出了一种高性能超材料吸波器快速智能设计方法。该方法设计的太阳辐射吸波器在户外阳光照射下展示出优异的光热转化性能。该项研究成果以“Broadband Solar Metamaterial Absorbers Empowered by Transformer-based Deep Learning” 为题发表在国际期刊Advanced Science上。厦门大学朱锦锋教授为该研究工作的通讯作者，课题组博士生陈威和高源为论文的共同第一作者，论文合作者有英国南安普顿大学欧俊裕（Jun-Yu Ou）博士。
近年来，深度学习方法在纳米光子学和超材料设计领域展示出巨大发展潜力。迄今为止，已有研究人员采用一系列经典深度学习模型进行超材料设计，如多层感知机、卷积神经网络、递归神经网络、生成对抗网络、变分自动编码器等。而随着深度学习的快速发展，近年来，Transformer框架因其独特的多头注意力机制，在自然语言处理和计算机视觉等领域展现出了强大的深度学习能力并取得了许多重要研究进展。然而，在具有大量光波长采样点的宽带超材料光学器件设计中，使用传统Transformer框架会面临训练参数激增，使得网络难以训练泛化甚至无法收敛等问题。因此，使用Transformer架构设计超材料光学器件仍是一个悬而未决的挑战。
在本研究中，课题组基于Transformer框架开发了一种超材料光谱变换（MST）深度学习方法，用于实现超材料吸波器件的快速智能设计（如图1所示）。该网络框架由逆向网络和正向网络构成。逆向网络实现从需求光谱到结构参数的即时预测。与传统方法相比，在逆向网络中，课题组将高维光谱数据分割为若干块低维光谱数据，并采用卷积嵌入的方式，在训练参数大幅减少的情况下实现精度较大提升，极大降低训练难度并有效缓和传统设计方法中出现的过拟合问题。正向网络使用经典的Transformer Encoder架构，实现从结构参数到光谱的即时预测。该论文基于逆向网络和正向网络的精准预测，实现超材料吸波器快速按需定制智能设计。
图1基于Transformer框架的超材料光谱变换深度学习框架示意图
如图2所示，课题组对超材料光谱变换深度学习在正向设计中不同注意力机制(M)和编码器层(L)的性能进行了探究。与多层感知机相比，该工作在有效减少网络训练参数的情况下，实现了一个数量级的预测精度提升，为实时光学响应精准预测提供了坚实基础。在逆向设计中，通过分割光谱的方式，实现了对吸波器结构参数的准确预测。随机案例表明所有结构参数误差在3.3％以内，预测结构光学相应与目标所需一致。此外，通过对模型训练结果误差的分析，课题组发现MgF2与SiO2误差显著高于其它材料。进一步借助超材料光谱变换深度学习分析，得到了MgF2与SiO2之间存在对光学响应的等效转化规律，从而说明该深度学习模型有助于光学物理规律的探索和发现。
图2 超材料光谱变换深度学习与传统方法比较及性能展示
基于上述深度学习方法，课题组开发了一种基于自由客户定义的灵活设计工具，以促进具有各种光学功能的超材料的实时按需设计（如图3动态演示）。课题组根据该工具实现了高性能的超材料太阳辐射吸波器设计。设计结果很好地满足了用户定义的需求。整个设计过程简便快速，网络预测响应时间在毫秒范围，极大地简化了传统设计过程。
图3 通过超材料光谱变换深度学习设计的超材料器件演示
通过使用上述设计工具，如图4所示，我们得到了理想的光谱所对应的结构参数，并对其进行了一系列的物理分析。
图4 按需定制所得结果及相关物理分析
为了验证深度学习设计，课题组基于光谱变换深度学习实时按需设计了高性能的超材料吸波器，通过实验制备了样品，并记录了其在户外阳光照射下的温度曲线变化。如图5所示，该样品在中午11点30分的温度可达90摄氏度。此外，通过等效加热实验换算得到了太阳辐射的加热功率。该结果有力证实了所设计的吸波器件在太阳能利用方面具有显著潜力。
本文提出了一种基于Transformer架构的超材料光谱变换深度学习方法，用于实现超材料吸波器的实时按需设计。通过使用渐变折射率模型，实现了在太阳辐射波段的宽带阻抗匹配，并且展示出了优异的光热转化性能。该设计方法可以很容易地扩展到许多其他超材料的智能设计中，为光学工程领域中的器件设计问题提供了有力指导。
该项工作得到国家自然科学基金(62175205)、国家自然科学基金联合基金项目（U2130112、U1830116）、福建省杰出青年科学基金(2020J06009)，深圳市基础研究布局项目(JCYJ20220530143015035)等研究经费的支持。
论文链接：
https://onlinelibrary.wiley.com/doi/full/10.1002/advs.202206718
免责声明：本文旨在传递更多科研资讯及分享，所有其他媒、网来源均注明出处，如涉及版权问题，请作者第一时间后台联系，我们将协调进行处理，所有来稿文责自负，两江仅作分享平台。转载请注明出处，如原创内容转载需授权，请联系下方微信号。
