近期我们针对11种GNN+Transformer的创新思路的前沿成果进行了深度整合，从中筛选出20篇很有参考价值的论文，收录了NeurIPS、AAAI等顶会顶刊上的相关工作，并配套整理了开源代码实现。
这些论文基本覆盖了当前主流方法与技术瓶颈，特别适合正在准备论文的朋友，无论你是想找创新突破口、设计课题方案，还是想复现经典模型，都能提供实质性帮助。
扫描下方二维码，回复「结合18」
免费获取全部论文合集及项目代码
GTC: GNN-Transformer Co-contrastive Learning for Self-supervised Heterogeneous Graph Representation
本文提出自监督异构图表示学习GTC框架，设置GNN与Transformer双分支分别编码图模式视图（捕获局部邻域信息）与跳数视图；设计元路径感知Hop2Token将异构图多跳邻居转为token序列，搭配CG‑HetPhormer实现token级、语义级分层注意力融合；构建跨视图对比学习，结合元路径统计扩充正负样本，通过双向对比损失完成自监督训练，借助Transformer缓解GNN过平滑问题，可兼顾局部聚合与全局多跳信息建模。
SpikeGraphormer: A High-Performance Graph Transformer with Spiking Graph Attention
本文提出SpikeGraphormer双分支图Transformer架构，设计脉冲图注意力SGA模块，借助脉冲神经元将QKV转为二进制脉冲，用稀疏加法与掩码替换传统自注意力的矩阵乘法，把复杂度从节点二次降为线性，实现全配对节点交互；搭配稀疏GNN分支捕获局部图邻域信息，通过加权相加或拼接融合两支输出，无需位置/边嵌入，兼顾全局交互与局部结构，大幅降低显存与时间开销，也具备跨域分类泛化能力。
扫描下方二维码，回复「结合18」
免费获取全部论文合集及项目代码
Automatic Graph Topology-Aware Transformer
本文提出EGTAS进化式图Transformer架构搜索框架，构建同时包含宏观拓扑、微观图感知策略的完备搜索空间，采用通用编码方案表征候选架构，训练代理模型直接预测架构性能以降低完整训练评估开销，借助带交叉、变异算子的进化算法在搜索空间内迭代寻优，自动适配不同图数据集得到专用图Transformer，在节点、图分类任务上取得优于人工设计与其它图神经架构搜索方法的效果。
Leveraging Contrastive Learning for Enhanced Node Representations in Tokenized Graph Transformers
本文提出GCFormer令牌化图Transformer模型，设计混合令牌生成器，分别基于属性感知与拓扑感知特征空间，采样生成正、负两类令牌序列，采用定制Transformer骨干网络分别编码正负令牌序列，通过带符号聚合得到中间节点表征，引入对比学习损失拉近目标节点与正样本表征、远离负样本表征，联合分类交叉熵损失完成训练，在同质性与异质性图的节点分类任务上取得优于现有GNN与图Transformer的效果。
扫描下方二维码，回复「结合18」
免费获取全部论文合集及项目代码
