大数跨境

Transformer过时了!MIT液态神经网络LNN才是新趋势!

Transformer过时了!MIT液态神经网络LNN才是新趋势! AI科研进阶社
2026-11-14
12
导读:近期我们针对2026液态神经网络的前沿成果进行了深度整合,从中筛选出16篇很有参考价值的论文,收录了natur

近期我们针对2026液态神经网络的前沿成果进行了深度整合,从中筛选出16篇很有参考价值的论文,收录了nature子刊、cell子刊等顶会顶刊上的相关工作,并配套整理了开源代码实现。

这些论文基本覆盖了当前主流方法与技术瓶颈,特别适合正在准备论文的朋友,无论你是想找创新突破口、设计课题方案,还是想复现经典模型,都能提供实质性帮助。

扫描下方二维码,回复「LNN新」

免费获取全部论文合集及项目代码

Liquid Fourier Latent Dynamics Networks for fast GPU-based numerical simulations in computational cardiology

内容:本文在潜态动力学网络LDNets基础上提出LFLDNets代理模型,采用基于神经回路策略NCP的闭式连续时间CfC液态神经网络作为动力学网络求解系统全局潜态随时间的演化,无需依赖传统ODE数值求解器做时间推进,同时为空间坐标引入可训练核矩阵的傅里叶嵌入送入全连接重建网络,以此更好捕捉高频率空间特征,使用TPE贝叶斯算法完成超参寻优,以MSE作为损失函数在单精度下采用Adam优化器完成模型训练,依托GPU开展训练与推理,分别在儿科心脏电生理与心血管流体动力学两个三维病人算例上,基于拉丁超立方采样生成的高精度有限元仿真数据集构建代理模型,并和LDNets、LLDNets开展对比,借助消融实验验证液态网络与傅里叶嵌入各自带来的增益效果。

LNN-PINN: A Unified Physics-Only Training Framework with Liquid Residual Blocks

内容:本文针对传统物理信息神经网络PINN在求解复杂偏微分方程时重建精度不足的痛点,本文提出LNN‑PINN,在不改动原有物理损失、采样策略、优化流程的前提下,仅替换网络隐藏层内部特征传播逻辑,引入轻量液态残差门控模块,该模块为保宽度的残差算子,依靠可学习通道调制参数对隐特征做残差修正,全部参数仅依靠PDE残差、边界残差、初值残差反向传播完成更新,属于非侵入式、可插拔的架构改进,性能提升完全来自内部特征传播机制的优化;论文统一构建仅物理监督的损失框架,对稳态、时变问题做通用残差定义,还引入无量纲化与残差尺度归一化来改善不同物理量量级差异带来的优化病态问题,采用Adam优化器完成训练。实验选取一维对流‑反应、混合狄利克雷‑诺伊曼边界二维拉普拉斯方程、带对流边界的圆形域稳态热传导、各向异性泊松梁方程、两套不同解析场的二维相对论粘性流体多场耦合共6类基准算例,和原始PINN、RA‑PINN、XPINN开展对照,在完全一致采样点数、迭代轮次、评价网格条件下,采用RMSE、MSE、MAE、相对$L_2$误差、最大绝对误差作为评价指标,大量算例中LNN‑PINN各项重建误差得到明显下降,仅个别强耦合多物理场算例少数物理场相比原始PINN提升有限。

扫描下方二维码,回复「LNN新」

免费获取全部论文合集及项目代码

Exploring Liquid Neural Networks on Loihi-2

内容:

本文围绕液态神经网络LNN在神经拟态硬件上的部署展开研究,梳理液态时间常数网络LTCN、液态状态机LSM的理论基础,LNN受生物神经元启发,基于常微分方程实现动态时序处理,具备非线性突触交互、无需循环连接即可保持状态稳定、参数开销低、记忆筛选等特性,同时调研LNN在机器人、无线通信、医疗时序分析等软件场景已有应用,但向神经拟态硬件迁移存在时序动力学离散转换、模型可扩展性、能耗、软硬件协同适配等现实挑战。本文面向图像分类任务构建LNN模块,采用卷积层做空间特征降维,结合神经电路策略NCP完成决策推理,使用反向传播与Adam优化训练,经过量化压缩降低参数量与计算开销,再依托LAVA开发框架完成模型编译,部署到Intel Loihi‑2(7nm神经拟态ASIC);实验在CIFAR‑10数据集上开展,与DNN、CNN、SNN进行对比,GPU仿真下LNN取得91.3%分类准确率,MAC运算量0.85GOP,推理延迟15.2ms,能效25.3GOP/s/W;部署至Loihi‑2硬件后准确率维持91.3%,每帧能耗仅213微焦耳,对比同期FPGA、ASIC实现方案,在精度‑能耗综合指标上建立新基准;论文也指出当前仍存在模型鲁棒性、硬件损伤容错等待优化方向,验证LNN适配神经拟态芯片的可行性,认为该方案对边缘端、机器人、实时分析等低功耗智能场景具备应用潜力。

Liquid Neural Networks: Next-Generation AI for Telecom from First Principles

内容:本文面向6G移动通信场景,指出传统深度学习在通信领域存在动态环境鲁棒性差、模型黑盒可解释性不足、计算复杂度高难以部署于边缘IoT设备的痛点,系统梳理液态神经网络LNN的三类核心变体:LTC液态时间常数网络依靠常微分方程刻画神经元突触动态;CfC闭式连续时间网络给出ODE闭式近似解,摆脱数值求解器开销;NCP神经电路策略模仿秀丽隐杆线虫生物稀疏神经回路,分层搭建感知‑中间‑命令‑运动神经元完成推理。相较于FNN、CNN、RNN、Neural‑ODE等传统模型,LNN具备五大核心优势:动态环境下强泛化鲁棒性、更强时序表达能力、可解释性、低计算复杂度、原生连续时间建模能力。文章分析LNN在通信领域两大应用方向,分别是通感一体化ISAC的资源调度与感知增强、自组织网络SON的拥塞预判、动态切换、故障主动处理;同时点明落地的关键挑战:零样本泛化能力不足、分布式LNN协同与通信开销、多模态数据融合难题、推理与训练时延需要满足URLLC严苛指标。文中给出两组仿真案例,一是基于LTC完成信道状态信息CSI预测,相比LSTM、AR基线,随预测步长增加MSE误差显著更低;二是基于NCP实现动态MIMO波束成形,在用户高速移动场景下GLNN取得优于WMMSE、LSTM的频谱效率SE;综合仿真证明LNN适配无线通信的时变特性,但仍需要在零样本学习、分布式框架、多模态融合、硬件加速方向继续开展研究,为6G智能无线网络提供新的技术路线。

扫描下方二维码,回复「LNN新」

免费获取全部论文合集及项目代码

【声明】内容源于网络
0
0
AI科研进阶社
感谢关注AI科研进阶社!人工智能学习资料、机器学习&深度学习基础干货、论文写作资源等都在这里!
内容 224
粉丝 0
AI科研进阶社 感谢关注AI科研进阶社!人工智能学习资料、机器学习&深度学习基础干货、论文写作资源等都在这里!
总阅读5.6k
粉丝0
内容224