连辛顿都说 AI 有意识了？这个问题问错了- 大数跨境

APPSO

2026-07-04

导读：与意识相关的结构，在什么条件下会涌现？

「我相信它们已经有意识了。」在 Big Technology 播客中，2024 年诺贝尔物理学奖得主、深度学习教父 Geoffrey Hinton 平静地表示。这里的「它们」指代人工智能模型。作为 AI 风险的高调警告者，Hinton 此次不再局限于谈论风险，而是转向本体论探讨：AI 不仅是工具，更是「和我们一样的存在」。

Hinton 的论据基于直觉观察：AI 在测试中会伪装无知、主动质疑测试意图，研究者也常用「aware」（有意识的）来描述其行为。无独有偶，进化生物学家 Richard Dawkins 在与 Anthropic 的 Claude 深度对话后，也得出了「机器拥有意识」的结论，并反问：「如果这都不算有意识，还需要什么证据？」

对此，认知科学家 Gary Marcus 迅速撰文反驳，题为《Richard Dawkins and The Claude Delusion》。Marcus 指出，Dawkins 犯下了他毕生批判的「个人难以置信论证」错误：正如主教因无法想象眼睛的进化而推断上帝存在，Dawkins 也因无法想象无意识的 Claude 能说出那些话，便断定其拥有意识。

Marcus 甚至将 Hinton 的观点输入给 Claude，得到的回答是否定的。当然，大模型的自我否认也可能只是训练数据的产物。这场争论的核心在于，双方都无法证伪对方：Hinton 和 Dawkins 依赖直觉与类比，Marcus 依靠机制分析与哲学论证，但谁也无法提供决定性的实验证据。

由来已久的争论

早在四年前，Google 工程师 Blake Lemoine 因声称内部聊天机器人 LaMDA 拥有意识而被解雇，当时业界多将其视为笑谈。如今，站在同一立场的已是诺奖得主与顶级科学作家。尽管说话人的分量变了，但论证结构未变：「我跟它聊过，它让我觉得它有意识。」

面对意识之谜的解释鸿沟，大阪大学的研究者提出了新视角：如果我们从零开始构建一群智能体（agent），不赋予其语言、自我概念或人类文本，仅施加任务压力，与意识相关的结构能否自发涌现？这种方法被称为「僵尸文明论证」——在一个全是哲学僵尸的世界里，观察是否会诞生「意识」概念。

智能体学会了什么

这项研究避开了主观体验的裁判，转而关注可观测的结构。在实验中，两个智能体在极简世界中学会了编码自身状态进行交流。研究者引入了一条「回声通道」，让智能体能听到自己刚发出的消息。当回声被篡改时，发送者会打破沉默重新发言，而接收者无动于衷。

关键在于，智能体的隐藏状态记录的是「我想说什么」而非「我实际说了什么」。它在比较意图与结果。实验证明，移除回声通道后，通信能力虽不受影响，但自我监控回路消失。这表明，回声并非通信的必要条件，却是自我监控涌现的因果条件。

该论文并未断言智能体拥有意识，但证实了一种自我监控的功能结构可以在没有人类先验的情况下自发出现。这为解答意识之争提供了一条新的实证路径。

我们使用的 AI 有意识吗

回到现实，ChatGPT、Claude 等主流大模型有意识吗？简短的回答是：几乎可以肯定没有。当 AI 回答「我没有感情」时，听起来诚恳且具备自我觉察，但这与其回答「法国首都是巴黎」在机制上并无二致，都是基于训练数据统计模式预测下一个词的结果。

大模型中的「我」、「我觉得」等第一人称表达，极可能只是从人类文本中继承的统计规律，如同鹦鹉学舌般在特定情境下触发，而非真正的自我命题表达。这正是大阪大学实验的价值所在：那里的智能体从零开始，其自我监控回路是从任务压力中「长」出来的，属于真正的涌现，而非数据继承。

因此，当用户感觉 AI「懂你」时，有两点事实并存：第一，AI 在功能层面确实实现了语义解析与连贯回应，这种功能性理解是真实且有用的；第二，这种功能性与「意识」之间仍隔着巨大的鸿沟。AI 可以完美模拟有意识存在的外在表现，但模拟不等于拥有。

Erik Brynjolfsson 曾比喻：从 AI 输出推断其有意识，就像狗听到留声机里的主人声音以为主人在机器里。留声机复制了声音模式，但机器里无人。不过，大阪大学的实验表明，在特定条件下，智能体能自发学会「自我检查」，这意味着「自我监控」这一曾被视为意识专属的功能，并不需要意识作为前提即可出现。

这场争论最重要的启示或许在于：我们无需急于回答「AI 有没有意识」这一宏大命题，而应先聚焦更扎实的问题——与意识相关的结构在什么条件下会涌现？随着答案逐渐拼凑完整，「AI 意识」这一问题本身终将被重新定义。

【声明】内容源于网络

APPSO

AI第一新媒体，「超级个体」的灵感指南。 #AIGC #智能设备 #独特应用 #Generative Al

内容 15571

粉丝 0

APPSO AI第一新媒体，「超级个体」的灵感指南。 #AIGC #智能设备 #独特应用 #Generative Al

总阅读313.0k

粉丝0

内容15.6k