作者丨论文团队
编辑丨ScienceAI
脑电（EEG）是人工智能与神经科学交叉领域中最常见却也最难解读的信号之一。它能以毫秒级分辨率记录大脑活动，却混合了频率节律、通道关系、复杂度及跨频耦合等多重结构。
过去，研究人员依赖频带功率、Hjorth 参数、谱熵等手工特征理解 EEG。近年来，EEG 基础模型开始直接从大规模原始信号中学习表示，并迁移至睡眠分期、癫痫检测、抑郁识别等任务。
当模型性能提升后，核心问题随之转变：不仅在于能否分类，更在于凭借何种依据进行分类。
来自上海人工智能实验室、上海交通大学、同济大学、复旦大学和休斯顿大学的研究团队，在论文《What Do EEG Foundation Models Capture from Human Brain Signals?》中，对这一问题进行系统审计：探究基础模型究竟学到了哪些可解释的脑电知识，真正使用了哪些知识，以及这些知识能在多大程度上解释模型的优势。
论文链接：https://arxiv.org/abs/2605.11410
代码链接：https://github.com/Kian-Chen/BrainPEC
高分之后，还缺一条证据链
在临床 EEG 分析和脑机接口应用中，性能并非完整答案。若模型无法说明其依赖的信号证据，其在跨人群、跨设备、跨任务时的可靠性便难以评估。
该研究将解释性问题拆解为三层证据：经典 EEG 特征能否从模型表示中被读出；擦除相关表示后性能是否下降；被确认使用的特征能否组成透明分类器，从而追回基础模型相对于随机特征基线的优势。
这不仅追问“模型里有没有信息”，更进一步验证“模型是否真的用它做判断”，推动可解释性从事后可视化向科学验证的证据链转变。
图 1：论文整体框架。研究从 6 大家族、63 个手工 EEG 特征出发，对基础模型依次进行 Probe、Erase 和 Closure 审计。
三类对象，被放进同一张审计表
研究覆盖 3 个 EEG 基础模型（CSBrain、CBraMod、LaBraM）、5 个临床 EEG 分类任务（MDD、Stress、ISRUC-Sleep、TUSL、Siena），以及 6 大家族共 63 个手工 EEG 特征。
三者组合形成 945 个“模型—任务—特征”审计单元。第一步 Probe 采用逐层 ridge probing，从隐藏表示中预测手工特征。结果显示，847 个单元（占比 89.6%）通过编码标准，63 个特征均至少在一个组合中被成功编码。
图 2：逐层 probing 结果。颜色越亮，表示对应特征家族越容易从模型隐藏表示中被读出；三角形标记峰值层。
知道，不等于用上
仅靠 probing 容易将“模型知道什么”误读为“模型依赖什么”。为此，研究团队利用 LEACE-style subspace erasure，在特征编码最强的层上擦除相关子空间，观察性能变化。
若擦除后性能显著下降，该特征被视为"representation-causal"（表征因果）；若能读出但不影响表现，则属于"encoded-only"（仅编码）。结果显示，648 个单元（68.6%）通过 representation-causal 标准，199 个（21.1%）属于 encoded-only。
这表明 EEG 基础模型会在任务目标下选择性调用表征。对于科学解释而言，“读得出来”和“被用来决策”必须严格区分。
图 3：63 个手工特征的编码率与 representation-causal 通过率。浅色表示可读出，深色表示擦除后影响性能。
模型看的不是单一指标
从特征家族来看，频域特征表现最突出，这与传统 EEG 分析中频带功率和频谱形状的重要性一致。但时间域形态、时频包络、复杂度、跨频耦合和跨通道关系也在不同任务中提供了关键信息。
研究还控制了家族内冗余，避免将相关特征的重复表达误认为独立贡献。结果显示，基础模型捕获的并非单一频带功率，而是一组跨尺度、多通道、多家族的 EEG 结构。
图 4：特征家族层面的学习与使用总结，以及家族内冗余控制后的擦除效果。
透明特征能追回多少模型优势
最后一步 Closure 检验解释是否“够用”。作者提取被确认使用的特征，训练透明 logistic regression 分类器，并与随机特征基线、原始基础模型进行比较。
结果显示，这些确认特征平均恢复了基础模型优势的 79.3%。其中，MDD 和 Sleep 任务几乎可被现有手工特征完全解释；Siena 位于中间；TUSL 和 Stress 仍留有较明显的未解释部分。
这些剩余部分并非“解释失败”，而是表明现有 6 大家族、63 个特征尚未完全覆盖基础模型使用的全部有效信号，这也为后续 EEG 新概念发现提供了入口。
图 5：Closure 结果。确认被使用的透明特征平均恢复 79.3% 的基础模型优势，不同任务之间存在清晰梯度。
让基础模型成为可复查的科学工具
对于 AI for Science 而言，这项工作的重要性超越了单纯解释几个 EEG 模型。它提供了一种通用思路：当基础模型进入科学数据领域，研究者需要的不仅是排行榜分数，更需要知道模型是否重新发现了已知规律，以及是否真正使用了这些规律。
当模型表征与经典特征高度重叠时，这种重叠增强了模型的可信度，相当于用机器表征为传统脑电知识提供了独立验证；而当模型表现优异却难以被现有特征词典解释时，留下的缺口可能指向尚未被命名的新神经标志物候选。
从更高维度看，这是机器脑“读”生物脑、生物脑反过来“读”机器脑的过程。机器学习模型从原始 EEG 中抽取结构，研究者再用几十年积累的脑电知识审计模型内部表征。XAI for Science 的价值，或许正显现于这种双向读取之中。
未来真正有影响力的 EEG AI，不会仅仅是在测试集上提高几个百分点，而是能够将高维神经网络表征转化为可复查的脑信号证据。一方读懂自己的过程，恰好成了另一方生长的起点。