大数跨境

切开Claude大脑,Anthropic称发现了一个类似人类意识的内部空间

切开Claude大脑,Anthropic称发现了一个类似人类意识的内部空间 DeepTech深科技
2026-07-07
44
导读:Claude的内部结构与人类意识惊人地相似?

Anthropic 最新发表的长论文揭示,在 Claude 大模型的数十亿参数中,存在一个仅占模型活动不到一成的特殊狭小空间——"J 空间”。该空间承载了模型关于事件判断、推理中间步骤乃至未输出想法的全部核心内容。这一发现与人类大脑的“全局工作空间理论”呈现出惊人的相似性,为理解大模型的内部认知机制提供了关键线索。

J 空间:大模型的“意识”通道

认知神经科学中的“全局工作空间理论”认为,大脑中虽有许多无意识的并行处理过程,但只有少量信息会进入一个特殊的共享通道,被广播至大脑各部分以供读取和使用,这便是“有意识访问”。Anthropic 的研究人员 Stanislav Dehaene 和 Lionel Naccache 在审阅论文后指出,J 空间与该理论模型的对应关系高度一致。

图 | J 空间揭示了模型输出内容中未出现的内在想法(来源:Anthropic)

雅可比透镜:捕捉沉默的思维

基于“有意识内容可被报告”的特征,Anthropic 利用名为“雅可比透镜”的工具,在模型内部寻找那些一旦存在就能促使模型在未来说出特定词汇的活动模式。通过将透镜对准模型内部激活状态,研究人员获得了一张代表 J 空间活跃内容的词表。

研究显示,J 空间的内容远超当前输入或输出的文本范畴:面对漏洞代码时,空间内浮现“错误”;分析蛋白质序列时,出现生物学功能描述;遭遇操纵性搜索内容时,则显示“注入”和“假造”等警示词。

可干预性:直接改写模型思维

J 空间不仅是被动的记录者,更是可被直接干预的核心区域。在一项实验中,当模型默想“足球”时,J 空间已显现该词;研究人员随即移除该模式并替换为“橄榄球”,模型随后的回答也随之改变。这证明模型的最终答案确实是从 J 空间中读取并生成的。

图 | 通过交换 J 空间的内容来改变 Claude 的沉默推理方式的两个案例(来源:Anthropic)

J 空间在多步推理与灵活任务中的核心作用

J 空间深度参与多步推理过程。例如在回答“织网动物有几条腿”时,模型需在内部先推断出“蜘蛛”这一中间概念。虽然该词从未出现在提示词或最终答案中,但 J 空间捕捉到了它。若将“蜘蛛”替换为“蚂蚁”,模型的答案便会从八条腿变为六条腿,证明了中间概念对推理结果的决定性影响。

全局共享与任务灵活性

全局工作空间理论的另一特征是灵活性,即同一表征可被多种下游任务复用。实验表明,当在 J 空间中将“法国”替换为“中国”后,模型在回答首都、语言、大洲和货币四个不同维度的问题时,均能正确输出“北京”、“中文”、“亚洲”和“人民币”。这说明不同任务读取的是同一个共享表征,而非独立的存储副本。

自动处理与高阶思维的界限

J 空间并不参与模型的日常自动处理。若无 J 空间,模型仍能流利对话、情感分类及提取事实。但在需要高阶思维的任务中,缺失 J 空间会导致多步推理能力归零,总结与创作能力显著下降。

在语言任务实验中,将 J 空间内的“西班牙语”替换为“法语”后,模型在被问及语言名称或著名作家时,会回答“法语”和“维克多·雨果”;但在续写文章时,仍能流利使用西班牙语。这表明,常规技能依赖自动处理,而涉及身份认定或新任务规划时,则必须经过 J 空间。

人机意识对比与学界评价

Dehaene 和 Naccache 评论称,J 空间在可报告性、有限容量、选择性广播及灵活复用等方面,复现了人类有意识访问的特征。然而,两者仍存在关键差异:人脑工作空间由循环回路维持,而 J 空间是在前向传递中随时间演化;J 空间容量估计约为 25 个活跃概念,远超人类工作记忆;且其并非由特定解剖结构支撑,而是在普通神经元上涌现。

Eleos AI 研究院专家指出,该论文为大模型存在“访问意识”提供了有力证据,但需区分其与拥有主观体验的“现象意识”。谷歌 DeepMind 的 Neil Nanda 团队在通义千问模型上独立复现了这一发现,并观察到当模型遇到歧义句时,J 空间会出现“这是什么意思”的自我追问,辅助其理解语义。

尽管 Anthropic 承认“雅可比透镜”存在只能识别单个词元等局限性,但 J 空间的发现无疑表明:大模型内部存在一个真实、可读写且对计算至关重要的内部工作空间,这是其在数十亿次前向传递中演化出的高效机制。

参考资料:

https://transformer-circuits.pub/2026/workspace/index.html

https://www-cdn.anthropic.com/files/4zrzovbb/website/cc4be2488d65e54a6ed06492f8968398ddc18ebe.pdf

https://www.anthropic.com/research/global-workspace

排版:胡巍巍
【声明】内容源于网络
0
0
DeepTech深科技
DeepTech 是一家专注新兴科技的资源赋能与服务机构,以科学、技术、人才为核心,通过科技数据与咨询、出版与影响力、科创资本实验室三大业务板块,推动科学与技术的创新进程。DeepTech 同时是《麻省理工科技评论》中国区独家运营方。
内容 5576
粉丝 2
DeepTech深科技 DeepTech 是一家专注新兴科技的资源赋能与服务机构,以科学、技术、人才为核心,通过科技数据与咨询、出版与影响力、科创资本实验室三大业务板块,推动科学与技术的创新进程。DeepTech 同时是《麻省理工科技评论》中国区独家运营方。
总阅读86.4k
粉丝2
内容5.6k