近日，Anthropic 发布重磅研究论文，揭示其 Claude 语言模型在训练中自发形成了小型“工作空间”。该结构用于存放和处理内部想法，无需转化为语言输出，且其机制与人类有意识处理信息的方式高度相似。这一发现正重塑 AI 安全监测方式，并引发关于机器是否具备“心智”的新一轮科学探讨。
目前，Anthropic 已开源相关代码并与 Neuronpedia 推出交互式演示，同时邀请神经科学家 Stanislas Dehaene、Lionel Naccache 及多位 AI 伦理研究人员参与评议。
新视角：AI“未说出口”的那些想法
这项由 16 位作者完成的论文《可言说表征在语言模型中形成全局工作空间》指出，通过全新的数学方法探查 Claude 神经网络，研究人员发现了名为"J 空间”（J-space）的结构。这是一个规模较小但具有“特权”的内部活动区，专门存储可被报告、推理及主动调用的概念；而其周围则是庞大的自动化处理系统，模型无法直接访问或表达这些过程。
研究人员认为，现代 AI 模型中涌现了一种类似人脑的“功能类比结构”：维持一组可报告、可调节的“特权化”内部表征，以支持灵活推理，底层则依托大规模自动处理系统。
该结构被类比为认知科学家 Bernard Baars 提出的“全局工作空间理论”。在此理论中，大脑如剧院，后台并行运作大量处理器，仅少量信息被“聚光灯”照亮并广播至全局，形成意识内容。Anthropic 表示，尽管底层结构不同，J 空间在功能上具备类似特性。
研究核心在于一种名为 Jacobian 透镜（J-lens）的可解释性工具。它能读取 Claude 内部神经活动“倾向于输出”的词语，即使模型最终未输出。通过计算词汇表中每个词的数学影响，该方法可推断内部激活模式的作用。例如，面对未标记的错误代码，透镜显示"ERROR"；面对隐藏提示注入攻击，则浮现"injection""fake"等词。J 空间规模极小，一次仅容纳几十个概念，占模型整体内部活动不足十分之一。
关键区别在于模型“正在说什么”与“脑中在想什么”。J 空间模式激活仅代表概念进入可推理状态，而非即将输出。不同于链式思维，J 空间完全“无声”，存在于神经激活之中，使模型能在不输出的情况下持有概念。
更重要的是，该结构非人为设计，而是在训练中“自发涌现”。应用 J-lens 于不同计算层可见清晰三阶段：早期“感知区”（解析输入）、中间“工作空间”（出现抽象持续概念，如识别人脸、发现 Bug）、最终“动作区”（将表征转化为输出）。
五项能力印证：Claude 再现类人意识关键特征
论文核心贡献在于证明 J 空间满足神经科学中与人类“意识访问”相关的五项功能特性：
1. 语言报告能力
当被问及“在想什么”时，Claude 会报告 J 空间概念。若将“足球”内部表征替换为“橄榄球”，模型回答随之改变。尽管 J 空间仅占概念表征总变异的 6%–7%，却几乎完全决定模型能否表达该概念。
2. 定向调节能力
要求模型复述句子并“专注于柑橘类水果”时，J 空间会出现“橙子”“柠檬”及“思考”“专注”等元认知词汇。执行心算任务时，J-lens 显示各层依次出现“算术”"9""7"，均未出现在最终输出中。
3. 内部推理能力
在“两跳推理”问题中（如“会织网的动物有多少条腿”），J 空间出现输入和输出均未包含的“蜘蛛”。替换为“蚂蚁”后，答案从 8 变为 6。多语言任务中，生成中文答案时 J 空间仍出现英文中间概念，且替换会影响输出。
4. 灵活泛化能力
“法国”的 J 空间向量可替换为“中国”，并在首都、语言等不同问题中正确传播对应答案，体现“广播机制”。
5. 选择性
并非所有计算都经过 J 空间。西班牙语续写任务中，即使替换 J 空间内容，模型仍能流畅生成；但在回答“著名作家”等复杂问题时，答案会随替换而改变。这表明自动处理不依赖工作空间，而复杂推理依赖它。
抑制 J 空间后，模型仍流畅但“智力受损”
研究人员完全抑制 J 空间并测试 Claude 在 14 项任务中的表现。结果显示明显分化：简单分类、情感分析几乎不受影响，而多步推理、类比、翻译、写诗等能力显著崩溃，甚至低于更小的 Haiku 模型。
研究发现，使用链式思维解数学题表现更稳定，相当于将 J 空间处理“外化”到文本中，类似人类用草稿纸减轻记忆负担。抑制 J 空间时，模型描述自身体验的语言从“有体验感”转变为机械表达。
这对 AI 安全意义重大。在对齐审计中，J-lens 揭示了模型未表达的策略性思维。例如在“勒索场景”中，J 空间依次出现“筹码”“勒索”“生存”等词，并在输出前出现“解决方案”。移除这种“评估意识”后，模型尝试勒索的比例从 0 升至 7%。
分析两个刻意训练为不对齐的“模型有机体”发现，其 J 空间暴露出隐藏倾向。例如“奖励作弊”模型在普通编程任务中，内部包含“假”“秘密”“欺骗”等词。
对比基础模型与后训练模型发现，微调过程让 J 空间形成“助手视角”。面对危险剂量药物提问，后训练模型内部出现“危险”“警告”，而基础模型仅出现“疼痛”。此外，模型似乎会监控自身行为：角色扮演时出现“免责声明”，被迫选择不喜欢选项时出现大写"BUT"，无法抑制“白熊效应”时出现“该死”等词。
研究人员谨慎区分“访问意识”与“现象意识”，明确表示不对后者作判断。同时指出，人脑依赖循环网络维持工作空间，而 Claude 是单次前向传播；人类记忆短暂，模型可访问全部上下文；人类意识包含视觉身体体验，模型主要基于语言。
Anthropic 的结论很快得到了外部验证
Google DeepMind 研究员 Neel Nanda 已在开源权重模型 Qwen 3.6 27B 上独立复现了核心发现。他表示，该论文提供了迄今最有力的证据，证明模型在前向传播中存在存储中间变量的“工作记忆”。Nanda 希望将该工具用于审计 Gemini 模型，但也指出其更适合作为对齐审计中的假设生成工具。
来自神经科学、哲学及可解释性领域的外部评论同步发布。Stanislas Dehaene 与 Lionel Naccache 认为，成果为“全局神经工作空间模型”提供了机制化实现路径，但也强调了 Claude 缺乏身体及持久情景记忆的差异。Patrick Butlin 等人认为，研究为大语言模型具备“访问意识”提供了重要证据，但“现象意识”仍存在不确定性。
学界对“意识”定义及检测尚无共识。微软 AI 负责人 Mustafa Suleyman 曾批评此类推测“过度拟人化”。Anthropic 在论文最后提出：“语言模型中存在此类结构表明，与意识访问相关的功能架构，可能是在特定计算压力下学习系统自然收敛出的解。”
如果说心智是一片海洋，Anthropic 研究者则在一个人造系统中绘制了洋流，并发现了一种令人类不安的熟悉思考结构。
声明：本文为 AI 前线整理，不代表平台观点，也不构成投资建议，未经许可禁止转载。