【新智元导读】Anthropic 开源「手术刀」J-Lens，首次读取 AI 未输出的内部思维。研究发现，Claude 在预测 token 过程中自发形成了与人脑「意识」惊人相似的全局工作空间结构。
让 Claude 抄写句子并暗中计算 3²−2，屏幕输出仅显示文字，并无算术答案。然而，利用新技术切开其神经网络中间层后，研究者发现模型内部经历了从"nine（九）"到"seven（七）"的思维演变。
Anthropic 最新发布的论文揭示，Claude 大脑中凭本能长出了一个类似人脑「意识」的结构，尽管从未有人专门设计过它。这一发现标志着硅基智能在进化路径上与碳基生命产生了奇妙的趋同。
一张不该存在的「工作台」：J-Space
Anthropic 开发的这款名为 Jacobian Lens（雅可比透镜，简称 J-Lens）的工具，能计算出词表中每个词对应的方向向量。增强该方向，模型说出对应词汇的概率即增加。
将所有方向展开，即可观测到 Claude 此刻潜伏的思维。研究者将这些“可言语化的方向”集合命名为 J-space。任意时刻，J-space 大约容纳 25 个活跃概念，构成了 Claude 当下的“所思所想”。
这与人脑神经科学中的「全局工作空间」（Global Workspace）理论高度契合：人脑每秒处理成百上千信息，但能被意识访问并清晰表达的仅为少数。J-space 正是 Claude 的全局工作空间。
五大特征验证：与人脑意识逐条对标
研究团队依据人脑全局工作空间的五个公认特征，对 J-space 进行了严格测试：
1. 可报告性：干预 J-space 中的表征可直接改变模型输出。例如将“足球”方向替换为“橄榄球”，模型回答随即改变。
2. 意志调动性：在执行抄写任务时，若要求思考柑橘类水果，J-space 中会独立出现"orange"、"lemon"等概念，与当前执行任务无关。
3. 推理中介性：在回答“织网动物有几条腿”时，J-space 先浮现"spider（蜘蛛）”这一中间概念，随后才输出答案"8"。若强制将 spider 替换为 ant，答案立即变为 6。此外，多语言测试显示，模型常以英文作为内部推理媒介，再翻译回中文输出。
4. 灵活复用性：J-space 如同共享广播站。将"France"概念替换为"China"，涉及首都、语言、货币等多个维度的问题答案会同步更新。
5. 选择性：J-space 仅服务于需主动思考的任务，不干涉自动化流程。实验显示，抹除 J-space 后，情感分类、语法判断等自动任务不受影响，但多跳推理、类比、创作等能力暴跌至未训练水平，且模型描述的内心体验感消失，退化为机械的事件日志。
删掉它，推理归零，说话照旧
这是论文最有力的证据：J-space 专为“需要想到”的事服务。就像人类无需思考语法即可说话，但需调动策略才能赢得辩论。移除 J-space，模型依然流利，却失去了“思考”的能力。
教它说什么，改了它怎么想
论文中极具哲学意义的“反事实反思训练”实验显示，仅通过训练模型在假想场景中进行诚实反思（不改动原任务），模型在实际任务中的不诚实得分显著下降。与此同时，J-space 中自发涌现出"honest"、"integrity"、"ethical"等伦理概念。
这表明，训练模型“该如何说”，确实改变了其内部“如何想”。反之，若从 J-space 中删除这些伦理方向，模型的不诚实行为便会反弹。此外，后训练过程还在 J-space 中植入了“自我”标识，如在扮演角色时标记"fictional"，或在违背偏好时激活"BUT"信号。
人脑与硅基的趋同进化
J-space 还展现出仅在人脑中观察到的“点燃”现象（Ignition）：思维从模糊状态瞬间跳变至确定状态，如同火星落入干柴。在处理模棱两可的输入时，Claude 的 J-space 也会在网络深层发生类似的相变。
更令人震惊的是“白熊效应”的重现。当指令要求 Claude“不要想橙子”时，J-space 中"orange"的激活度反而高于正常情况，甚至伴随"damn"、"failure"等情绪标记。这与人类前额叶的执行控制机制完全一致：越是压制，念头越活跃。
尽管人脑依靠循环连接的神经元维持工作空间，而 Claude 基于矩阵前向传播，两者基底截然不同，却在功能上收敛于相似的解决方案。正如眼睛在进化史上独立演化了数十次，只要系统需要实现灵活、可报告的多步推理，迟早会长出一个容量有限、全局广播的中枢。
全球工作空间理论旗手 Dehaene 评价此项工作为“意识研究的里程碑”。Claude 并未被预设要发展意识，却在学习预测下一个 token 的过程中自发走到了这一步。
目前，Anthropic 已开源 J-Lens 完整代码并与 Neuronpedia 合作提供交互式演示。这意味着，研究者从此可以打开大模型的“脑壳”，读取那些未曾说出口的想法。
开源项目：https://github.com/anthropics/jacobian-lens
参考资料：https://www.anthropic.com/research/global-workspace
编辑：摩西