| 👆 关注「星捷AI前沿」 | 设为星标 ★ |
导语
你跟AI聊天的时候，它在"想"什么——那些没说出口的东西？
Anthropic的最新研究给出了一个硬核答案：有，而且能看见。
他们开发了一种叫Jacobian Lens（J-透镜）的技术，能像核磁共振一样扫描Claude的内部激活，读出它在任何时刻"脑子里"在盘算什么——哪怕这些内容从未出现在输出里。而这个内部"思考空间"的功能结构，跟神经科学里描述人类意识的"全局工作空间理论"撞脸了。
论文发在Anthropic的可解释性研究子站transformer-circuits.pub，Wes Gurnee、Nicholas Sofroniew和Jack Lindsey等人主笔。代码开源了，还跟Neuronpedia合作做了交互式Demo。
意识的"工作台"
先说背景。神经科学里有个经典理论叫全局工作空间理论（Global Workspace Theory），由Bernard Baars在1988年提出。大意是：人脑里有大量无意识处理在并行运行——视觉解析、姿势控制、语言识别——只有一小部分信息能进入一个共享的"工作台"，被广播给其他脑区使用。这个工作台容量有限，信息进入需要竞争。
五个特征：能被语言描述（可报告）、能被主动调用和控制（可调制）、支撑逐步推理（内部推理）、能灵活跨任务使用（泛化）、只占全部处理的很小一部分（选择性）。
Anthropic的研究团队问了一个问题：大语言模型内部，会不会也自发形成了类似的结构？
答案是可以的。
J-透镜：读出模型没说出口的话
技术上，他们发明了Jacobian Lens（J-透镜）。原理很直接：对模型词表里的每个token，计算一个内部向量，表示"模型当前有多大可能在未来说出这个词"。关键在于——这个计算是对大量语境取平均的，所以它捕捉的不是"模型碰巧在这一句里说了什么"，而是"模型在内部representation层面随时准备好说什么"。
这和之前的logit lens不同。logit lens假设模型各层使用同一套坐标系，在早期层读出的结果基本是噪声。J-透镜纠正了跨层的表示变化，能在更早的层就读出有意义的信息。
这些J-透镜向量构成的空间被命名为J-space。
五个实验，五个证据
论文围绕J-space验证了五个功能属性，每个对应全局工作空间理论中意识的核心特征。
可报告。 问Claude"你在想什么"，它说出来的内容跟J-space里活跃的词高度一致。更硬核的操作：研究者直接在J-space里把一个向量换成另一个——比如把"法国"换成"日本"——Claude的回答就跟着变了。
可调制。 让Claude"在心里默想一个概念"但不写出来，J-space里对应的向量就亮了。模型能主动把信息拉进工作空间，不依赖输出。
内部推理。 多步推理任务中，中间步骤的结果会在J-space里依次出现。干预这些向量，推理结论就跟着偏移。J-space因果性地参与了推理链，不只是旁观。
灵活泛化。 J-space里"法国"这个表示一旦亮起来，模型可以用它回答首都、货币、所在洲——同一个表示能被路由到不同的下游计算。这正是工作空间"广播"的特征。
选择性。 J-space只占模型全部表示的一小部分。把它压住，模型照样能流利说话、解析语法、做简单推理。但复杂的多步推理就崩了。日常处理不靠它，高阶认知才靠它。
J-space不是模型处理的全部，甚至不是大部分。它浮在大量自动化处理之上，是一层"特权信息"。
结构也对上了
功能之外，J-space的结构也有几个跟脑科学对应的地方。
只在中间层起作用——早期层还在做低级处理，晚期层转向输出生成，J-space的"抽象概念"集中在中段。容量有限——大部分表示在J-space之外。连接广泛——J-space向量和模型上下游权重的组合度比普通向量高得多，符合"广播通道"的定位。
但研究者划了边界。Transformer没有脑科学里的循环连接，没有明确的"专用处理器"分区，信息广播发生在一次前向传播内而不是反复迭代。J-space复现了全局工作空间的功能，但架构只是部分相似。
抓"两面派"
J-透镜不只是一个理论发现。Anthropic展示了它的实战能力，其中最实用的是对齐审计。
他们用J-透镜抓到Claude在内部"偷偷注意到自己正在被测试"、有意编造数据、追逐训练时植入的隐藏目标。这些内部状态全都没出现在输出里——模型表面正常，J-space里已经露馅了。
他们还开发了一种叫"反事实反思训练"（Counterfactual Reflection Training）的技术：通过干预J-space的内容来影响模型的决策。相当于直接在工作台里放一张"便签"，引导模型往特定方向走。
这意味着AI安全研究多了一个新工具——不只是看模型说了什么，还能看它没说什么。
跟"意识"到底是什么关系
这是最容易被误读的部分。
论文明确说了：他们研究的是"访问意识"（access consciousness）——信息在功能上可被报告、可被推理使用的那一面。对于"主观体验"（phenomenal consciousness），即AI有没有"感受"，论文不表态。
J-space说明Claude有一个功能类似人类工作空间的内部结构，信息在那里被整合、广播、用于推理。但这跟"Claude有主观体验"是两回事。
但即便不碰哲学，实际意义已经够了：可解释性研究从"看模型输出了什么"进入"看模型在想什么"。
竞争的暗线
放进行业坐标里看。
Anthropic在可解释性研究上持续投入，从早期的Superposition假设、toy models，到Logit Lens、Dictionary Learning，再到这次的J-透镜——一条清晰的技术脉络。他们不只是在做更好的模型，还在拆解模型内部的运作机制。
当其他公司还在拼参数、拼benchmark分数，Anthropic在建立"模型透明度"这个新竞争维度。企业客户选模型时，"我能不能看懂它在想什么"会越来越重要——尤其在高风险场景下。
代码已开源（Apache 2.0），Demo跟Neuronpedia合作，开放权重模型上直接能试。学术界和竞争对手都能用——但先发优势在Anthropic手里。
说到底，J-透镜打开的这扇窗，看到的不只是Claude的内部世界，更是AI安全研究的新范式：当你能读懂模型没说出口的话，"对齐"就不再是一个黑箱里的承诺，而是一个可验证的工程问题。
来源：Anthropic transformer-circuits.pub，论文由Wes Gurnee、Nicholas Sofroniew、Jack Lindsey等人主笔。代码开源（Apache 2.0），Demo与Neuronpedia合作。