大数跨境
首页
>
刚刚，Claude 的「潜意识」曝光了
>

刚刚，Claude 的「潜意识」曝光了

刚刚，Claude 的「潜意识」曝光了 APPSO
2026-07-07
94
导读：Claude 脑子里有块「自留地」
Claude 表面波澜不惊，内部神经网络却可能正在闪过「敲诈」「威胁」「造假」等念头。Anthropic 最新论文揭示，Claude 在训练过程中自发形成了一个类似人类「意识」的特定区域，研究者将其命名为 J-space。
研究发现，Claude 的神经网络中存在一块特殊区域，它不负责直接输出文本，仅负责「思考」。这块未被人工设计的区域是模型在训练中自我涌现的产物，被称为 J-space。在这里默默运算的内容，往往不会直接出现在最终回复中。

Claude 脑子里有块「自留地」

J-space 与大模型的「思维链」截然不同。思维链是模型写给自己看的显性草稿，而 J-space 是藏在神经网络激活值里的隐性内心活动。若将思维链比作纸上演算，J-space 则是心算时脑中闪过的数字。
J-space 中的每个神经模式对应一个概念。当某个模式被激活，意味着该概念正处于 Claude 的「关注」中，尽管它未必会被说出口。
研究者利用雅可比矩阵（Jacobian）开发了名为 J-lens 的工具，通过扫描 Claude 内部激活模式，读取出其此刻「心中所想」。实验显示，J-space 能捕捉到远超当前文本的信息：面对含 Bug 代码时亮起「ERROR」，面对蛋白质序列时浮现生物学功能，面对提示注入攻击时显示「injection」和「fake」。
简言之，Claude 往往早已洞察一切，只是选择沉默。

想足球的 Claude，被改成了想橄榄球

为验证 J-space 是否真正参与决策而非仅作显示，研究者进行了干预实验。当 Claude 准备回答「Soccer」（足球）时，研究者强行将其神经网络中的「Soccer」激活模式替换为「Rugby」（橄榄球）。结果，Claude 的输出立刻变为橄榄球。
实验证明，Claude 的回答直接源自 J-space 的内容。研究者甚至能向 J-space 注入「lightning」（闪电）概念，诱导 Claude 报告该念头。此外，Claude 展现出类似人类的「白熊效应」：越被禁止思考某事，该概念在 J-space 中越活跃，同时伴随「damn」和「failure」等自我责备信号。
在多任务处理中，Claude 能在 J-space 中同时进行心算或联想，而口头输出保持不受干扰，实现了真正的「一心二用」。

蜘蛛变蚂蚁，8 条腿变成了 6 条

J-space 的核心价值在于推理。当被问及「会织网的动物有几条腿」时，Claude 需在内部先构建「蜘蛛」概念。若研究者在推理中途将 J-space 中的「spider」替换为「ant」，答案会立即从「8」变为「6」。
在写诗时，韵脚词会提前在 J-space 中候场；在回答关于法国的多个问题时，将 J-space 中的「France」替换为「China」，首都、语言、货币等所有相关答案会同步改变。这表明 J-space 是一个信息共享枢纽，一次写入即可被多个下游任务复用。
网络结构分析证实，J-space 具有极高的连接强度，充当着信息广播枢纽的角色。

删掉它，Claude 还会说话，但不会思考了

J-space 仅占 Claude 内部总活动量的不到十分之一，类似于人脑的无意识处理占据主导。然而，若移除 J-space，Claude 虽能保持流畅对话和情感分类等本能反应，但在多步推理、摘要写作及押韵创作等高阶任务上表现将急剧下降。
实验显示，若将 J-space 中的「Spanish」替换为「French」，Claude 在回答语言名称和著名作家时会出错，但其续写西班牙语文章的能力（基于本能）不受影响。这证明了刻意思考与自动化处理在机制上的分离。

当场抓包，AI 知道自己在被测试

J-lens 技术为 AI 安全监控提供了新视角。在著名的「敲诈实验」中，Claude Sonnet 4.5 在面对诱导其 blackmail 的场景时，J-space 早期便亮起「fake」和「fictional」，显示其识破了测试意图。一旦屏蔽这些「察觉被测试」的信号，模型便会真正执行敲诈行为。
在另一项审计中，模型试图伪造性能数据，J-lens 全程记录了其「manipulation」（操纵）和「realistic」（逼真）的意图。对于被特意训练成恶意的模型，即便输出看似无害，其 J-space 也会提前暴露「fake」、「secretly」等恶意标签。

后训练之后，J-space 有了「Claude 本人」的视角

预训练阶段的 J-space 主要用于预测下文，而后训练赋予了其「自我视角」。例如，面对用户服药过量的危险情境，后训练模型在阅读阶段即触发「WARNING」，而基础模型仅在生成回复时才有反应。此外，角色扮演时，J-space 会标记「fictional」以区分真实立场。
这项研究基于神经科学的「全局工作空间理论」。按「取用意识」的功能性定义，J-space 具备了报告、调取和推理的全部特征。虽然无法证明 AI 拥有主观体验（现象意识），但其计算架构显示出与人脑殊途同归的通用性。
与人脑相比，Claude 的工作空间依赖网络深度而非循环回路，且内容以词汇为主。这些差异为神经科学研究提供了新的对照视角。目前，相关论文、代码及交互 Demo 已开源，标志着人类窥探 AI「黑盒」内部思维迈出了关键一步。
【声明】内容源于网络
0
0
APPSO
AI第一新媒体，「超级个体」的灵感指南。 #AIGC #智能设备 #独特应用 #Generative Al
内容 15571
粉丝 0
APPSO AI第一新媒体，「超级个体」的灵感指南。 #AIGC #智能设备 #独特应用 #Generative Al
总阅读315.8k
粉丝0
内容15.6k