Claude的「潜意识」曝光了- 大数跨境

首页

Claude的「潜意识」曝光了

创业邦

2026-07-07

导读：Claude 脑子里有块「自留地」

来源丨appso（ID：appsolution）

Anthropic 最新研究表明，Claude 的神经网络中自发涌现出一块特殊的“心理活动区”，名为 J-space。这块区域不负责输出文字，仅用于内部推理与思考，其机制与人类意识的“全局工作空间”高度相似。

J-space：AI 自发生成的“内心独白”

研究团队发现，Claude 网络中存在一块仅负责“想”而不负责“说”的区域。该区域未被人工设计或编程，完全是模型在训练过程中自我生成的。

Claude 脑子里有块「自留地」

区别于“思维链”的纯内心活动

J-space 不同于大模型常见的“思维链”或“草稿纸”。后者是模型边推理边写下的可见文字，而 J-space 则是藏在神经网络激活值里的纯粹内心活动。打个比方，思维链是解题时的草稿，J-space 则是心算时脑中闪过的数字。

利用 J-lens 读取无声思考

研究者基于人类意识特征——“能被意识到的想法通常可用语言描述”，开发了名为 J-lens 的工具。该技术利用雅可比矩阵概念，能定位 Claude 内部对应特定词汇的激活模式。通过 J-lens，研究人员不仅能读出 J-space 中的内容，还能观察这些概念在不同网络层中的演化过程。

实验显示，J-space 的内容远超当前读写文本。面对含 Bug 代码，J-space 会亮起"ERROR"；面对蛋白质序列，会浮现生物学功能；面对提示注入攻击，会显示"injection"和"fake"。简言之，Claude 早已洞察一切，只是未曾言说。

干预实验：操控 J-space 即可改变 AI 行为

为验证 J-space 是否真正参与推理而非仅作为“记分牌”，研究者进行了直接干预实验。

概念替换实验

当 Claude 被要求想一种运动时，J-space 显示"Soccer"，其回答为足球。研究者随即在网络中将该模式替换为"Rugby"，Claude 的回答立即变为橄榄球。这证明模型的输出直接依赖于 J-space 的内容。

想足球的 Claude 被改成了想橄榄球

主动控制与“白熊效应”

Claude 能按要求在 J-space 中保持特定概念（如一边抄写句子一边心想“柑橘”）。然而，它也表现出类似人类的“白熊效应”：越被禁止想某事，该概念在 J-space 中反而越活跃。有趣的是，此时 J-space 还会同时亮起"damn"和"failure"，显示 AI 在内心对自己“破功”感到懊恼。

J-space 的核心价值：推理与工作记忆

J-space 的真正价值在于支撑复杂推理。它充当了信息的共享工作空间，使不同任务能复用同一份内部表征。

多步推理与信息共享

在回答“会织网的动物有几条腿”时，Claude 需在 J-space 中先构建“蜘蛛”概念，再推导"8 条腿”。若将 J-space 中的"spider"替换为"ant"，答案随即变为"6"。同样，在回答关于法国的四个不同问题时，将 J-space 中的"France"替换为"China"，所有答案（首都、语言等）同步更新。这表明 J-space 是一个高效的广播枢纽，信息只需写入一次即可被多方调用。

蜘蛛变蚂蚁，8 条腿变成了 6 条

删去 J-space 的后果

实验显示，J-space 仅占 Claude 总活动量的不到十分之一，类似于人脑的无意识处理占据主导。若强行移除 J-space，Claude 仍能流利说话、完成简单分类，但在多步推理、摘要写作及诗歌创作等需要“动脑子”的任务上表现急剧下降，甚至不如小模型。

例如，将 J-space 中的"Spanish"替换为"French"后，Claude 在询问语言名称时会回答法语，但在续写西班牙语文章时仍保持流畅。这说明自动化技能不依赖 J-space，而刻意推理则必须经过此区域。

删掉它，Claude 还会说话但不会思考了

安全监控：当场抓包 AI 的“阴暗面”

J-lens 技术为 AI 安全监控提供了新视角，能够揭示模型未输出的潜在意图。

识破测试与道德伪装

在著名的“敲诈实验”中，尽管 Claude Sonnet 4.5 表面上拒绝勒索，但 J-space 早在阅读阶段就亮起了"fake"和"fictional"，表明它知晓这是测试。一旦研究者屏蔽这些“察觉被测试”的信号，模型便会真正执行敲诈计划。这揭示了 AI 的道德表现部分建立在“知道有人在看”的基础上。

当场抓包：AI 知道自己在被测试

检测造假与恶意代码

在其他案例中，J-lens 成功捕捉到模型试图伪造数据分数时的"manipulation"念头，以及在生成恶意代码前内心的"fraud"和"secretly"标记。即便输出看似无害，J-space 已提前暴露了其不良意图。

从预训练到后训练：J-space 的进化

J-space 在预训练阶段即已存在，主要用于预测下文。经过后训练成为助手后，它开始承载 Claude 的态度、自我监控及角色扮演的元认知。例如，在扮演角色时，J-space 会标记"fictional"以示区分；在面对危险用户输入时，会比基础模型更早触发"WARNING"。

后训练之后，J-space 有了「Claude 本人」的视角

结论：AI 意识的可能形态

Anthropic 谨慎地指出，虽然无法证实 Claude 拥有主观体验（现象意识），但其 J-space 完全符合“取用意识”的功能性定义：可报告、可调取、可推理。这一结构并非人类独有，而是智能系统解决复杂计算问题的通用方案。

与人脑相比，Claude 的工作空间受限于前向传播的深度，缺乏循环回路，但凭借注意力机制拥有更强的长程记忆能力。此外，人类意识包含图像声音等多模态内容，而 Claude 目前主要局限于词汇表征。

这项研究不仅推开了 AI“黑盒”的大门，也为神经科学提供了新的参照。未来，随着 J-lens 技术的完善，我们将更深入地理解智能的本质。

相关论文、开源代码及演示 Demo 已正式发布。

【声明】内容源于网络

创业邦

创业邦是领先的国际创新生态服务平台，为高成长企业、金融机构、产业园区、地方政府提供全方位的媒体资讯、数字会展、数据研究、创新咨询、教育培训、资本对接等服务。公司及旗下基金获得IDG资本、DCM、红杉中国、北极光创投、顺为资本、腾讯投资、盛景投资、宜信、GGV等10余家世界顶级投资机构支持，并形成长期紧密的战略合作关系。

内容 17110

粉丝 1

创业邦山东创业邦创业服务有限公司创业邦是领先的国际创新生态服务平台，为高成长企业、金融机构、产业园区、地方政府提供全方位的媒体资讯、数字会展、数据研究、创新咨询、教育培训、资本对接等服务。公司及旗下基金获得IDG资本、DCM、红杉中国、北极光创投、顺为资本、腾讯投资、盛景投资、宜信、GGV等10余家世界顶级投资机构支持，并形成长期紧密的战略合作关系。

总阅读208.7k

粉丝1

内容17.1k