大数跨境

减少特征选择依赖,西工大提出单细胞多组学分析预训练模型

减少特征选择依赖,西工大提出单细胞多组学分析预训练模型 ScienceAl
2026-11-03
6
导读:利用多模态模型保留更完整的生物学信息。

ScienceAI

第一时间掌握新鲜的 AI for Science 资讯

编辑丨&

单细胞测序技术使研究人员能够深入观察单个细胞的基因表达、染色质状态及蛋白质水平,从而解析细胞的身份、功能及其调控机制。然而,随着测量维度的激增,如何有效整合来源各异且特征庞大的多组学数据,仍是单细胞计算分析面临的重大挑战。

现有的单细胞预训练模型大多过度依赖转录组数据,并将输入规模限制在约 2,000 个高变基因(HVGs)以内以控制计算成本。这种策略虽降低了算力负担,却可能遗漏表达变化不明显但具有重要生物学意义的调控信号,且单一组学模型难以充分挖掘不同分子层面的互补信息。

2026 年 11 月 2 日,西北工业大学研究团队在《Nature Communications》发表题为「Building a pre-trained model for single-cell multi-omics analysis beyond highly variable feature selection」的研究成果,提出了一种全新的预训练多模态模型 scPMMI。该模型旨在突破传统框架局限,直接处理全量分子特征,并通过联合预训练捕捉多模态间共享的深层细胞状态信息。

按基因组位置组织特征

scPMMI 的核心架构能够将分子特征转换为兼具空间位置与数值属性的紧凑表示。模型为每个基因、染色质可及性区域或蛋白质分配可学习的嵌入向量,并根据实际表达量或测量值动态调整权重,实现特征身份与量化数值的有机结合。

针对转录组与表观基因组数据,研究团队引入了基于基因组坐标的分块策略:按照染色体物理位置将连续特征划分为互不重叠的分块,聚合同一分块内的特征嵌入并叠加可学习的位置编码。这一设计在保留基因组空间拓扑关系的同时,大幅压缩了序列长度,避免了将数万个基因和染色质区域作为孤立单元处理带来的计算压力。对于数据量相对精简的蛋白质面板(355 种特征),则直接输入嵌入模块。

图 1:scPMMI 示意图概述。

在编码器层面,scPMMI 采用了 Mamba2 与多头注意力机制(MHA)相结合的混合架构。整体包含 12 层编码器(5 层 Mamba2 负责长序列建模,7 层 MHA 捕捉复杂非线性关联)以及 4 层 MHA构成的解码器。这种设计兼顾了长序列处理效率与特征关联捕捉能力,确保模型能从全特征空间中萃取高价值信号。

求同存异:自监督预训练任务

为充分挖掘配对多组学数据的内在规律,scPMMI 设计了两种互补的自监督预训练任务:

  • 细胞层面的随机模态下采样任务(CRMD):专注于重建各个模态内部的分子细节;
  • 细胞层面的对比对齐任务(CCA):致力于打通不同模态间的共同细胞表示。

图 2:在多种多组学整合任务中的基准测试结果。

下游任务检验

研究团队通过多项下游任务的微调,全面评估了 scPMMI 在多组学整合、细胞类型注释、蛋白质丰度预测、转录组增强及细胞分化轨迹重建等场景中的泛化与迁移能力。

多组学整合与蛋白质预测

在与 scGPT、SC-MAMBA-2、MIDAS、MultiVI 等主流方法的横向对比中,scPMMI 展现出对复杂生物学结构与批次差异卓越的兼顾能力。在 CITE-seq 数据集上,利用 RNA 表达信息推断细胞表面蛋白水平的平均预测相关性较对照方法提升约 9%。

图 3:转录组学与蛋白质组学数据的整合及蛋白质丰度预测。

细胞类型注释

在五个测试数据集上,scPMMI实现了 86.3% 的平均准确率,优于位列第二的 scGPT(高出 7.3%)。即便在包含复杂罕见细胞亚型的数据集中,模型也能精准识别部分表达谱极为接近的细胞群,但在样本极度稀少的极少数稀有细胞类型上仍存在一定误分类风险。

图 4:使用 scPMMI 的细胞类型注释结果。

转录组增强与轨迹重建

在转录组增强实验中,即使将 RNA 测序深度降至原始水平的 10%,scPMMI 借助配对的表观基因组信息仍能恢复高质量的细胞表示,在聚类指标上超越 scFoundation 和 scVI,并成功分辨出初始 CD4 与初始 CD8 T 细胞亚群。

此外,利用包含 69,249 个骨髓单核细胞的多组学数据,scPMMI 成功重建了从造血干细胞到红系分化的连续发育路径,在轨迹保留和生物学信号保留指标上均优于比较方法。

局限性与展望

尽管性能卓越,研究团队也指出了模型的局限性。首先,全面扩大输入特征并未完全取代高变特征筛选策略,在数据稀疏或质量较差时,特征筛选仍是有效的预处理手段。其次,现有多组学预训练语料规模比单模态预训练模型少一个数量级,限制了其作为通用基础模型的潜力。

未来,团队计划扩大配对数据的规模及组织、疾病类型的覆盖范围,以进一步提升模型的迁移能力和适用场景。

相关链接:https://github.com/23AIBox/scPMMI

【声明】内容源于网络
0
0
ScienceAl
机器之心旗下媒体,关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展。
内容 2121
粉丝 0
ScienceAl 机器之心旗下媒体,关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展。
总阅读69.7k
粉丝0
内容2.1k