大数跨境

2026年CNN与Transformer融合的创新点思路

2026年CNN与Transformer融合的创新点思路 AI科研进阶社
2026-11-08
0
导读:近期我们针对CNN+Transformer前沿创新思路的前沿成果进行了深度整合,从中筛选出15篇很有参考价值的

近期我们针对CNN+Transformer前沿创新思路的前沿成果进行了深度整合,从中筛选出15篇很有参考价值的论文,收录了CVPR、AAAI、NeurIPS、WACV等顶会顶刊上的相关工作,并配套整理了开源代码实现。

这些论文基本覆盖了当前主流方法与技术瓶颈,特别适合正在准备论文的朋友,无论你是想找创新突破口、设计课题方案,还是想复现经典模型,都能提供实质性帮助。

扫描下方二维码,回复「卷结合思路」

免费获取全部论文合集及项目代码

RepViT: Revisiting Mobile CNN From ViT Perspective

内容:本文以MobileNetV3‑L为基础骨干,从ViT的设计视角逐步对轻量CNN做现代化迭代改进,对齐轻量化ViT的训练配置,在模块层面解耦token混合与通道混合,引入重参数化卷积构建RepViT模块,调小扩展比并拓宽网络通道,再从宏观架构优化主干、下采样层、分类器与各阶段模块配比,微观层面选用3×3卷积、采用间隔式放置SE注意力模块,得到RepViT系列纯卷积轻量化模型,以手机端实测延迟作为核心评估指标,在图像分类、检测、分割任务开展验证,还将RepViT作为图像编码器替换SAM主干得到RepViT‑SAM,实现远快于MobileSAM的推理速度。

VMFormer: End-to-End Video Matting with Transformer

内容:本文提出端到端无trimap的Transformer视频抠图模型VMFormer,设置特征建模与查询建模双分支,特征分支利用CNN骨干提取特征金字塔再经由Transformer编码器做帧内全局建模,搭配基于循环聚合的SFTM模块完成相邻帧短时序特征建模,查询分支使用Transformer解码器,通过交叉注意力让逐帧可学习查询与特征序列交互,再采用计算开销更低的加性注意力实现LQTM长距离查询级时序建模,最后将查询与特征图做矩阵乘法输出alpha遮罩,训练融合focal损失、dice损失与时序一致性损失,在合成数据集上开展评测,在不同分辨率下相比主流CNN视频抠图方法取得更优指标同时保持实时推理速度。

扫描下方二维码,回复「卷结合思路」

免费获取全部论文合集及项目代码

LongFormer: Longitudinal Transformer for Alzheimer’s Disease Classification with Structural MRIs

内容:本文提出LongFormer混合模型用于基于纵向结构磁共振影像的阿尔茨海默病分类,采用3D‑CNN骨干网络逐时间点提取脑部多尺度三维特征,搭配基于3D可变形多头稀疏注意力的纵向Transformer解码器,将评估查询复制生成各时间点专属查询来分别检索不同时刻影像特征,再对时序特征做加权聚合得到融合时空信息的纵向表征,同时设置定位头预测脑区边界、分类头输出疾病标签,可适配纵向MRI存在的数据缺失与脑结构微弱时序变化问题,在ADNI、OASIS、AIBL三个公开数据集上完成实验对比,实现阿尔茨海默病相关分类任务的最优效果。

Lite-Mono: A Lightweight CNN and Transformer Architecture for

Self-Supervised Monocular Depth Estimation

内容:本文提出CNN‑Transformer混合轻量自监督单目深度估计网络Lite‑Mono,由DepthNet编解码器与PoseNet位姿网络组成,编码器各阶段采用连续扩张卷积CDC模块提取多尺度局部特征,搭配基于通道维度互协方差注意力的LGFI局部‑全局特征交互模块高效捕获长距离全局上下文,引入池化拼接与跨阶段连接减少下采样信息损失,解码器输出多尺度逆深度图,以图像重投影损失结合边缘感知平滑损失完成自监督训练,在KITTI、Make3D数据集上验证,参数量相比Monodepth2大幅降低,兼顾精度与边缘设备推理速度。

扫描下方二维码,回复「卷结合思路」

免费获取全部论文合集及项目代码

【声明】内容源于网络
0
0
AI科研进阶社
感谢关注AI科研进阶社!人工智能学习资料、机器学习&深度学习基础干货、论文写作资源等都在这里!
内容 215
粉丝 0
AI科研进阶社 感谢关注AI科研进阶社!人工智能学习资料、机器学习&深度学习基础干货、论文写作资源等都在这里!
总阅读5.0k
粉丝0
内容215