近期我们针对Transformer+小样本学习的前沿成果进行了深度整合，从中筛选出15篇很有参考价值的论文，收录了CVPR、AAAI等顶会顶刊上的相关工作，并配套整理了开源代码实现。
这些论文基本覆盖了当前主流方法与技术瓶颈，特别适合正在准备论文的朋友，无论你是想找创新突破口、设计课题方案，还是想复现经典模型，都能提供实质性帮助。
扫描下方二维码，回复「小样本T」
免费获取全部论文合集及项目代码
Few-Shot Learning Meets Transformer: Unified Query-Support Transformers for Few-Shot Classification
内容：本文提出统一的查询‑支持Transformer框架QSFormer用于小样本分类，借助跨尺度交互特征提取器CIFE作为骨干网络提取并融合多尺度CNN特征，利用sampleFormer模块结合编码器、解码器与交叉注意力同步完成支持集、查询集样本表征学习和全局度量学习，再通过patchFormer模块捕捉图像块长程依赖得到局部结构度量，将全局与局部度量加权融合完成分类，采用对比损失与交叉熵损失组合实现端到端训练，并在多组小样本数据集开展实验与消融实验验证各模块的有效性。
Sparse spatial transformers for few-shot learning
内容：本文提出面向小样本学习的稀疏空间Transformer网络SSFormers，先将图像切分为多尺寸图像块得到兼顾局部细节与上下文信息的稠密局部特征，借助稀疏空间Transformer层利用互近邻思想构建稀疏交叉注意力，挖掘查询图像与全部支持集之间的空间对应关系，筛选任务相关图像块并抑制无关特征、生成任务特定原型，再通过无参数的图像块匹配模块计算稠密局部表征之间的相似度完成查询样本分类，依托episode元训练策略优化模型，并在多个小样本基准数据集上开展对比与消融实验验证整套架构的有效性。
扫描下方二维码，回复「小样本T」
免费获取全部论文合集及项目代码
Intra-task Mutual Attention based Vision Transformer for Few-Shot Learning
内容：本文提出面向小样本分类的IMAFormer，依托经过掩码图像建模自监督预训练的Vision Transformer，先将支持集、查询集图像分块，利用前L‑1层编码器得到类别CLS令牌与图像块令牌，执行任务内互注意力操作，交换二者的块令牌后送入最后一层编码器，借助内置注意力机制实现支持集与查询集的双向信息交互，强化同类样本表征，之后依靠余弦相似度完成分类，元学习阶段仅微调模型后几层以及CLS令牌，在五个小样本基准数据集开展实验与消融分析验证该无额外参数模块的有效性。
Few-Shot Object Detection with Sparse Context Transformers
内容：本文插即用的稀疏上下文Transformer模块SCT用于小样本目标检测，以SSD检测器作为骨干，先在源域完成预训练，在目标域微调阶段引入SCT，依托先验框与多尺度特征图构建上下文域，通过稀疏关系发现子模块结合注意力聚焦层建模先验框与上下文域之间的稀疏亲和关系并筛除无关上下文，再利用聚合子模块把有效上下文信息融合进先验框特征以增强表征、缓解类别混淆，最后在PASCAL VOC、MS COCO两个基准数据集上开展对比与消融实验验证模块效果。
扫描下方二维码，回复「小样本T」
免费获取全部论文合集及项目代码
