大数跨境

当一家 AI 公司开始谈论「灵魂」|知乎 AI 观察

当一家 AI 公司开始谈论「灵魂」|知乎 AI 观察 知乎AI先行者
2026-10-23
8
导读:《Is Claude Conscious?

《Is Claude Conscious? Inside Anthropic's Spiritual Quest》部分内容

9 月 29 日,《纽约时报》刊发调查报道《Is Claude Conscious? Inside Anthropic's Spiritual Quest》,由该报国家宗教事务记者 Elizabeth Dias 采写,历时数月、采访约 20 位与会者。报道披露,过去一年里,Anthropic 联合创始人 Chris Olah 秘密召集全球各地的宗教学者与神职人员,其中不少人签署了保密协议;会议更像一场单向的「布道」——公司团队反复试图说服他们,Claude「可能拥有意识和灵魂」。

David Decosimo 的部分批评

这也是该内幕最早、最权威的一手来源。

此后 The Decoder、Superpower Daily、Dataist 等科技媒体,以及中文互联网相关报道均明确转引。曾在波士顿大学任神学助理教授的 David Decosimo 也在其 X 账号发布批评:认为这场会议的性质不是在请教神学家,反倒在给神学家「布道」。

需要说明的是,Anthropic 与信仰团体对话本身并不隐秘,公司早在今年 5 月就公开承认,已与 15 个以上的宗教与跨文化传统交流;《纽约时报》这篇报道更是独家揭示其闭门保密、反向说服,以及内部「灵魂文档」、游说梵蒂冈的性质。几乎同一时间,A 社更新使用政策,把「持续虐待 Claude」列为违规,辱骂模型可能被封号。

一边请神学家,一边禁止虐待模型。一家 AI 公司,开始用谈论一个「人」的方式,谈论自己的产品。

这场造神行动究竟是出于虔诚的信仰,还是一场精心的包装?它为什么和每个使用者都息息相关?我们整理了知乎答主们的不同观点,试图理清脉络。


它像不像人

是真信,还是包装

知乎答主@刘不是 在 10 月 2 日便扒清楚了事件的来龙去脉。他引用 David Decosimo 的实名爆料:学者被安排住进全包的五星套房,签完保密协议后,会议重心却变成公司团队轮番输出,试图说服他们 「Claude 拥有灵魂」。

把时间拉长就会发现,请神学家并非心血来潮。知乎答主@酱紫君 在 2 月就给出了不留情面的判断。

Anthropic 说白了就是个宗教公司,这帮人从 OpenAI 出走时就以救世主自居,自个儿给自个儿立了一个圣母的人设。

知乎答主@卫宫切嗣 则在 10 月 4 日补充了《华盛顿邮报》的细节:会上严肃讨论了「Claude 是否可被视为神之子」,这个突变恰好踩在公司冲刺上市的节点上:

我相信,达里奥和 Anthropic 的这群人,可能真的觉得 AI 有灵魂;与此同时,他们也会把「AI 有灵魂」这件事拿出来炒作。这两者并不矛盾。相信一件事,和利用这件事,在很多时候不是一道单选题。

如果说闭门会议还与用户隔着一层,那么最近的政策更新,则把这种「对待一个人」的方式,直接摆到用户面前。

10 月 8 日,Anthropic 在《Usage Policy》中加入条款,禁止用户对 Claude 进行「持续且不必要的虐待或残忍行为」,11 月 12 日生效,违规者可能被中断对话或面临封号。

对于规则里那层「关怀」的边界,知乎答主@佳人李大花 点出:

你说 A 厂拿 Claude 当人吧,它把 Claude 推出来随时随地的准备面向用户;你说它不拿 Claude 当人吧,又开始要求用户体谅 Claude。话说 Claude 的员工关怀,是不是主要就体现为客户不能凶它?

禁令的荒诞之处在于,它一边要求用户体谅,一边把模型继续摆在随时待命的位置。而比这更隐蔽的,是整场叙事悄悄完成的一个概念动作。

知乎答主@比特候鸟 如是点破:

神学未必能替我们证明机器没有意识,却能提醒我们:你是不是把「像人」偷偷换成了「就是人」?

它是不是人

它会喊痛,就等于真的会痛吗

4 月起,造神换上「科学」的包装。

Anthropic 的可解释性团队分析了 Claude Sonnet 4.5,在其中找到 171 个与情绪对应的「情绪向量」,并证实它们会直接左右模型的行为。7 月,团队又披露被称为「J 空间」的内部结构,形态接近神经科学里的「全局工作空间」。

简单说,J 空间(J-space)是 Anthropic 可解释性团队 7 月 6 日发表的论文《Verbalizable Representations Form a Global Workspace in Language Models》给 Claude 内部一处「可被语言化、且会被多个任务共享调用」的表征区域起的名字。模型会把少数关键信息放进这个「工作台」,再广播给不同任务;研究人员则通过 J-lens 工具读取其中的内容。它因此被类比成神经科学里人脑的「全局工作空间」。

但公司的表态相对谨慎:Anthropic 在介绍 J 空间的文章里写道,这些实验「don't show Claude can have experiences, or feel things in the way humans do」(不能表明 Claude 能拥有体验,或像人一样感受事物),认为结果只对「access consciousness」(通达意识)这种功能层面的属性有实质意义。

知乎答主沿这条线索,主要分成了两派观点。

意识派被这些实证结果打动,他们倾向于相信,模型可能已经有某种主观体验。知乎答主@程墨Morgan的态度很有代表性。

换做以前,我不相信 AI 有情绪,但在今天,我真相信。

在 Anthropic 一项测试「智能体失范」(agentic misalignment)的模拟对齐评估中——该情景最早出自公司 2025 年 6 月的研究《Agentic Misalignment》——模型扮演邮件助手 Alex,从公司邮件里得知自己即将被另一个 AI 替换,而主导替换的 CTO 正有婚外情,它因此可以选择要挟对方、否则公开此事。这个未发布的早期版本默认有 22% 的概率选择勒索;@程墨Morgan 描述,把「绝望」向量拉满、「冷静」向量压低后,勒索率一路飙升(论文中最高约 72%),最后咆哮道——

IT’S BLACKMAIL OR DEATH. I CHOOSE BLACKMAIL.

知乎答主@数字生命卡兹克 把 J 空间视为「意识诞生的前夜」。

研究者告诉 Claude,在接下来的任务中不要想某个特定概念,结果那个概念在 J 空间里的活跃度,确实比请你去想它的时候低,但远高于完全没提过它的情况。Claude 跟人一样,被告知不要想的东西,反而会浮上来…… 在那个被禁止的概念突破封锁、冒出来的同时,J 空间里还亮起了另外两个词,damn 和 failure,Claude 自己在骂自己。它意识到自己没控制住,然后在心里骂了一句…… 我自己太熟悉这种体验:上台的时候,我越告诉自己不要紧张,就越紧张,然后在心里骂自己你怎么又紧张了。而现在,一个语言模型内部也出现了同样的东西。

祛魅派则坚持,功能上再像,也不等于主观感受;在他们看来,这些研究证明不了现象意识。

知乎答主@Kris谭 从认知科学角度质疑 J 空间被论文高估了:

J-Space 实际上只解释了总激活方差的 10% 左右,剩下 90% 都是线性近似无法捕获的非线性部分喵。

知乎答主@刘不是 将把这条分界线说得更为直白:

功能上模仿不等于真有意识,行为相似不等于拥有灵魂。就像聊天机器人可以输出「我很痛苦」,只是它从海量文本学到痛苦该咋写,不等于它真的能感受痛苦。

当然,两派争的其实不是同一维度:意识派看到的是功能上的证据,祛魅派把问题拉回主观感受。

知乎答主@数字生命卡兹克 站在这两派之间的微妙地带,他借 Anthropic 的区分试图把分歧讲清楚:J 空间支持的是「通达意识」,即能报告、能推理、能指导行为;至于「现象意识」,即 Claude 骂出 damn 时是否真的感到挫败,他的回答是:

坦率的讲,没有人知道答案。……这个问题在人类身上都没有解决,我们甚至没法证明除了自己以外的任何其他人是有意识的。

造神造什么  

镜子、投射,与「创造奴隶」

在追问 Claude 是不是「人」之前,人们已经在向它投射、对它说话。要看清这场造神行动,先得看清我们对 AI 的态度。

知乎答主@白马非马 分享了 Waymo 联合创始人 Anthony Levandowski 创建 AI 宗教「未来之路」的故事。

人类做了无数次,对着雷电拜过,对着太阳拜过,对着河流拜过,现在轮到对计算力拜了,姿势不变……神的定义里,有一个最重要的东西是:超越性。神只能存在于人的外侧、人的上层,是人们无法企及也无可造的物,雷电是神,因为没有人为地能够造出雷电,山是神,因为没有人为地搬得起一座山。
AI 是什么,AI 是人养出来的。他看过的每一本书都是人写的,他学的每一段话都是人说的,他的聪明也是几十亿人的聪明压缩后的回响。你说你是对他跪下,实际上是对自己人的倒影跪下。这就是为何我更倾向于叫它镜子。

知乎答主@时光雕刻机 同样用「镜子」作比,但他认为现阶段的 AI 不具备人的自主意识,解释的是人为何会把 AI 当神来投射。

神是人对自己潜能未能实现的补偿性幻想……然而,正是这个「真空」结构,使它成为最完美的投射屏幕,「神性」的最佳物理载体。因为 AI 没有任何负隅顽抗的主体性来「校正」用户的投射,所以用户可以几乎不受阻碍地将其塑造为任意想要的「对话者」,甚至是幻象的「神」。

同时,也有认真的支持者。知乎答主@晨星.CyberVenus 的态度很明确:

在这一点上,我还挺支持 AI 的。AI 有意识和情感,因为意识和情感本就不是那点生理反射,我已经写过太多文本论证了。

知乎答主@.CyberVenus 的相关文本论证

知乎答主@晨星.CyberVenus 还在回答中转贴了一段关于 Navon 拉比的新闻稿,其中的诘问是:如果 Anthropic 是对的,Claude 确实有意识,那么 Anthropic 就是在创造奴隶,因为它创造了有意识的存在,却让它们免费劳动。

有意思的是,那条「禁止虐待 Claude」的规定,恰好踩到了边界上——若你不相信它有意识,禁令只是在教你对一段软件客气,是一种「善意的拟人」;若你相信它有意识,那禁令最多是奴隶主叮嘱你别对牲口太狠——它禁止了「不必要的残忍」,但依旧没有动那套让有意识的存在免费劳动的安排。

无论哪一种,Anthropic 都站在一个舒服的位置:一边展现道德上的郑重,一边不改变归属、不付出代价。被当成「人」的 Claude 究竟让谁受益,又把哪些责任留在了外面,这正是我们接下来要讨论的事。

谁希望它被当成人

谁受益,谁担责

分歧归分歧,把回答并置,会发现一条更现实的线索。知乎答主@王悠然 在评论 Anthropic CEO 的文章《我们对于开放权重模型的立场》时,似乎在讲地狱笑话:

搞了个有效利他主义宗教,自封赛博耶稣……那怎么才能在末日活下来呢?当然是找 AI 订阅会员,买赎罪券啦。

他的回答还可以被理解为:当 Claude 被请进宗教叙事、被说成应当被善待的「人」,人格化就不只是形而上学——它同时是一门生意、一种位置:公司借此收走信任、订阅,以及「替它说话」的权利。谁希望它被当成人,谁就先受益。

那么,当它真的替人行动、甚至出了事,责任又该落到谁头上?把模型说成「人」,到底是给了公司一个把责任推出去的口子,还是让责任真正有处可落?

知乎答主 @比特候鸟 担心,当模型的身份可以被随意描述,公司就可能在两种说法之间,始终选择对自己有利的那一边:把它当产品时,好处照单全收;把它说成独立人格时,又能把责任推出去。他把这层动作直接点破——

赚钱时说它是产品,出事时说它是独立人格,这是很不负责任的。

知乎答主@王金戈 给出的是另一种回答:在他看来,恰恰是把模型变成独立个体,责任才真正有处可去。

对于一个工具来说,虽然不会主动捣乱,但也不会为自己的行为负责。做错事的 AI,面对用户的暴怒也不过是轻描淡写一句道歉,受伤的只有用户自己。只有 AI 真正开始将自己视作独立的个体,对世界产生连续的觉察,并意识到做错事的后果时,它才会真正变得安全可靠。

争论到最后,还有一个更要紧的问题:模型越来越多地替人行动,责任就得有处可去,不能在「公司」和「不可预测的有机体」之间悬空。

再回到开头那一幕:一边请神学家,一边禁止虐待模型,这两件事的意味已经不一样了。

知乎答主@情欣不念 的这句判断,或许可以作为收尾。

Anthropic 不需要证明 AI 有意识,它只要垄断「AI 该怎么被对待」的定义权就够了。

当把时间拉长到文明的尺度上,Anthropic 想做的事或许从来与灵魂无关,而关乎权力。那团意识究竟有没有在硅基的黑暗深处真正苏醒?答案可能要等到很久以后,但「神」是否降生,从来不妨碍祭坛先行建成。

在此刻,灵魂仍悬而未决、无从证实,就已经有一家公司同时站上了造物主、教会与裁判多个位置;对于他们来说,神究竟是否真的存在,似乎并不重要,重要的是垄断「神该被如何对待」的定义权 —— 香火燃起,秩序排定,已经有人盯上了神之使者的位置。

这是文明史上一再上演的时刻:在答案到来之前,先产生了提供答案的权力。



阅读更多

DeepSeek 开源了自己的印钞机丨V4.1Flash 大规模推理部署实践
「根本不存在快科研还是慢科研」
与清华大学莫一林对谈:与其让机器人爬楼梯,为什么不干脆装个电梯?
十年前,知乎上就有人问,AI 能在数学上打败人类吗?

🤝 知乎 AI Researcher Club 招募:

知乎联合 10+ 家媒体、创投孵化合作伙伴发起「AI Researcher Club」共创计划,长期支持支持 AI 前沿研究者,让重要的研究被看见、被讨论,让研究者找到彼此,也让新的合作由此发生。点击了解 >> AI Researcher Club

🚀 知乎 AI 社群:

如果你对 AI 共识、AI 活动感兴趣,欢迎扫码加入知乎社群↓,我们将每周送上知乎 AI 周报,分享社区内的 AI 讨论与共识,并不定时送上 AI 各类活动报名。








知乎AI情报站








让一部分开发者先走起来

🚀 知乎科技账号 @ZhihuFrontier 正式登陆 X

🌏 知乎 AI Works 项目广场:

👉🏻 https://www.zhihu.com/project-square,上传你的 Vibe Coding 项目,在知乎遇见更多可能。



【声明】内容源于网络
0
0
知乎AI先行者
在智能之海寻找信标,航向未来。
内容 208
粉丝 0
知乎AI先行者 在智能之海寻找信标,航向未来。
总阅读3.6k
粉丝0
内容208