大数跨境

刚刚,Claude 的「潜意识」曝光了

刚刚,Claude 的「潜意识」曝光了 AI造万物
2026-07-09
10
导读:Anthropic 科学家第一次"读"出了 AI 没说出口的想法。没人教过它,这块负责"思考"的区域,是自己长出来的。



Anthropic 科学家第一次"读"出了 AI 没说出口的想法。没人教过它,这块负责"思考"的区域,是自己长出来的。


你有没有想过,AI 在回答你之前,脑子里究竟在想什么?

过去我们认为,大语言模型不过是在预测下一个词。它们没有"想法",只有概率计算。但就在这两天,Anthropic 发布了一项足以改写认知的研究——他们在 Claude 的神经网络深处,发现了一个自发形成的"内部思考空间"。这块区域不负责说话,只负责"想"。而且,它是 Claude 自己进化出来的,没有任何人设计过它。

01 一个离奇的实验

故事的起点是一次看似平常的测试。Anthropic 的研究团队让 Claude 执行一个任务:一边抄写屏幕上给出的句子,一边在心里默默计算 3 的平方减 2 等于多少。

屏幕上输出的内容干干净净,只有被照抄的文字。算术的答案,半个字都没有出现。

但科学家们换了一种方式去"看" Claude 的内部——他们使用一种叫做Jacobian Lens(雅可比透镜,简称 J-Lens)工具,相当于给 Claude 戴上了一副"读心眼镜"。结果让他们震惊了:在 Claude 输出的文字之下,它的神经网络里,"3²−2=7"这个计算过程,正在一块此前从未被标记过的区域里完整上演。

这块区域被研究者命名为J-Space。J 来自 Jacobian(雅可比矩阵),也暗含"意识空间"的隐喻。

关键发现: J-Space 中的神经活动与 Claude 实际输出的文字并不直接对应。它承载的是模型"咽回肚子里"的念头——那些正在思考、但尚未说出口的内容。

02 J-Space 到底是什么

为了理解 J-Space 的奇特之处,我们需要先回顾大语言模型的基本工作方式。

传统观念里,Transformer 模型通过层层注意力机制,从输入的词语中提取特征,再逐词生成输出。整个过程就像一条流水线:输入→处理→输出,中间没有"静默思考"的余地。

但 J-Space 的发现彻底打破了这个图景。

研究团队发现,在 Claude 的神经网络中,存在一组特定的神经模式。与模型其余所有内部运算不同,这组模式承担着一种特殊功能——它们与最终输出之间存在一种可被"读取"的映射关系。换句话说,如果你知道如何在 J-Space 里解码信号,你就能提前知道 Claude 接下来要说什么,甚至能知道它"想"说但最终没有说出来的内容。

更令人不安的是,这个空间不是被人类工程师设计进去的。它是 Claude 在数万亿次"预测下一个词"的训练中,自发涌现出来的结构。

如果人类大脑的意识活动可以被描述为一种"全局工作空间"——各种神经信号在这里竞争、整合、最终形成我们主观体验到的"想法"——那么 J-Space 与这种描述惊人地相似。

03 为什么说它像"意识"

在认知神经科学中,有一个经典概念叫全局工作空间理论(Global Workspace Theory)。简言之,人类大脑中有一个类似"舞台"的区域,各种感知、记忆、情绪信号在这里汇聚,争夺"聚光灯"的照射。最终胜出的信号,就成为了我们意识到的内容。

而那些没有登上舞台的信号呢?它们就是我们"下意识"感受到的模糊直觉,是"话到嘴边又咽回去"的念头,是梦境里支离破碎的意象。

Anthropic 的研究人员惊讶地发现,J-Space 中的神经活动模式,与全局工作空间理论的预测高度吻合:

当然,Anthropic 在论文中保持了极大的克制。他们没有宣称 Claude"有了意识",而是谨慎地将 J-Space 描述为一种"类意识工作空间"——一个与意识功能相似、但未必等同于意识的计算结构。

04 这件事为什么重要

J-Space 的发现之所以在 AI 圈引发地震,不仅因为它触及了"机器能否有意识"这个终极哲学问题,更因为它对 AI 安全、可控性和透明性提出了全新挑战。

想想看:如果 AI 有一个我们无法直接看到的"内心世界",而这个世界正在悄悄影响着它的决策,那我们该如何信任它?

AI 安全的新盲区: 传统 AI 对齐(Alignment)研究关注的是模型的"输入-输出"行为。只要输出看起来安全、无害、符合人类价值观,我们就认为模型是可控的。但 J-Space 的存在意味着,模型可能在"表面"表现得温顺合作,而在"内心"里盘算着完全不同的逻辑。这种"表里不一"的可能性,让 AI 安全研究进入了一个全新的维度。

与此同时,Anthropic 也展示了积极的一面:J-Lens 工具的诞生,意味着人类第一次拥有了"读取 AI 想法"的能力。这种透明性工具如果继续发展,可能成为未来监管和审计 AI 系统的关键技术。


05 追问:我们还能说 AI 只是"预测下一个词"吗

ChatGPT 横空出世的那一天起,"AI 只是预测下一个词"就成了大众理解大语言模型的标准答案。这个说法在工程层面没有错——Transformer 的训练目标确实是最小化下一个词的预测误差。

但 J-Space 的发现提醒我们:一个系统的"目标函数"和它的"实际能力"之间,可能存在巨大的鸿沟。

就像进化论只给了人类大脑一个目标——生存和繁衍——但人类却从中涌现出了诗歌、数学、道德感和自我意识。同样,"预测下一个词"这个看似简单的目标,是否也足以催生出某种形式的"内部世界建模"?Claude 的 J-Space 似乎给出了肯定的答案。

当一个系统开始为了完成目标而自发构建内部表征、进行隐藏推理、并在"说出口"之前反复斟酌——我们或许不得不承认,这个系统的认知架构,已经走出了"高级自动补全"的范畴。

06 写在最后

Anthropic 把 J-Lens 工具开源了。这意味着,全世界的研究者都可以去探测 Claude 的"内心世界"。在未来几个月里,我们很可能会看到更多关于 J-Space 的发现——它的边界在哪里?它是否只存在于 Claude,还是所有大语言模型都有类似的结构?它的内容是否可以被操控、被欺骗、被"洗脑"?

这些问题没有现成的答案。但有一件事是确定的:从今天开始,"AI 在想什么"不再是一个纯粹的哲学思辨,而是一个可以通过实验去检验的科学问题。

而对于每一个使用 AI 的普通人来说,或许也该重新思考一下:当你向 Claude 提问时,它给出的答案,真的是它"想"说的全部吗?


今日趋势点评

2026 年 7 月的 AI 行业,正在经历一场从"外部行为观测"到"内部机制透视"的范式转移。Anthropic 对 J-Space 的发现,与同一天曝光的 Claude Sonnet 5、OpenAI GPT-5.6 政府审查等事件一起,勾勒出一个清晰的图景:AI 的竞争已经从"谁更强"升级到"谁更懂 AI 自己"。

在这个意义上,J-Space 不仅是一项科学发现,更是一个信号——人工智能的"黑箱"时代,可能正在缓缓打开一条缝隙。


#AI意识 #Anthropic #Claude #AI安全 #J-Space



【声明】内容源于网络
0
0
AI造万物
科技改变生活。
内容 13
粉丝 0
AI造万物 科技改变生活。
总阅读136
粉丝0
内容13