注意力机制与LSTM的融合正成为长时序建模领域的核心突破方向，现已覆盖时序预测、序列标注、异常检测等多类任务。
本文整理了10篇注意力机制+LSTM相关的最新前沿论文，正在做相关课题的伙伴可以直接下方领取论文及代码（部分包含），搭基线、找改进点、扩实验方向都能直接用上。
长按识别下方二维码，回复【长短注意力】
无偿领全部论文合集及项目代码
Advancing Heat Demand Forecasting with Attention Mechanisms: Opportunities and Challenges
引入注意力机制的热需求预测：机遇与挑战
文章内容
该研究面向区域供热系统的精准调度需求，提出融合注意力机制的热负荷深度学习预测框架。方法将历史需求、气象等特征进行季节分解，提取趋势、周期与残差分量，经连续小波变换映射为时频域特征图，再通过双分支卷积网络与交叉注意力模块动态融合内生需求与外生影响因素。在丹麦真实供热数据集上，模型MAE达0.105±0.06kWh、MAPE达5.4%±2.8%，精度优于LSTM与CNN基准，同时参数量较基线减少97%，兼顾预测精度与计算效率。
LSTM-MAS: A Long Short-Term Memory Inspired Multi-Agent System for Long-Context Understanding
受长短期记忆启发的长上下文理解多智能体系统
文章内容
该研究借鉴LSTM的门控记忆机制，提出无需训练的长上下文多智能体系统LSTM-MAS。系统采用链式节点架构，每个节点配置工作、过滤、评判、管理四类智能体，分别对应LSTM的输入门、遗忘门、恒错校正单元与输出门，实现分段信息处理、冗余过滤、错误修正与全局整合。在8类长文本任务测试中，相比现有CoA框架，在NarrativeQA、HotpotQA等数据集上性能最高提升121.57%，有效抑制误差累积与幻觉传播。
Insider Threat Detection Using GCN and Bi-LSTM with Explicit and Implicit Graph Representations
结合显式与隐式图表示的GCN+双向LSTM内部威胁检测方法
文章内容
该研究针对内部威胁检测场景，提出融合显式与隐式双图结构、注意力机制与双向LSTM的检测框架。方法通过预设规则构建行为关联显式图，基于特征相似度与Gumbel-softmax生成隐式关系图，经双路GCN提取节点嵌入后用多头注意力加权融合，再输入Bi-LSTM捕获行为时序动态。在CERT r5.2数据集上AUC达98.62、检测率100%，r6.2数据集上AUC达88.48，各项指标均优于同期主流方法。
↓↓听说在下方一键三连的都Accept了🌝
