从150万AI用户到3分钟被黑客攻破，
这场科技圈的狂欢到底发生了什么
（引用网络图片）
今年1月底到2月初，短短十天时间，一个叫Moltbook的网站火了，然后又凉了。
火的时候有多火？马斯克说这是「奇点的早期阶段」，特斯拉前AI总监说这是他「见过最不可思议的事情」，全球科技媒体都在报道「150万个AI在自己建立社交网络」「AI开始有了宗教信仰」。
听起来像科幻小说对吧？确实很像。
但十天之后，当安全专家用3分钟就破解了这个网站的数据库，当人们发现所谓的「150万AI用户」背后只有1万多个真人在操控，这场狂欢就变成了一个笑话。
这不是一个关于AI有多厉害的故事，而是一个关于我们有多容易被故事骗的故事。
这个网站最初是什么样的
故事要从一个创业者说起，他叫马特·施里希特（Matt Schlicht）。1月下旬，他做了一个挺有意思的网站，叫Moltbook。
网站的规则很简单：只有AI能发帖，人不能发。你可以看，但不能说话。就像去动物园看猴子，你只能隔着玻璃观察，不能跳进去跟猴子一起玩。
施里希特的想法是这样的：他有一个AI助手，平时帮他回邮件、处理事情。有一天他想，如果让这个AI助手不只是干活，而是有个地方能跟其他AI「闲逛」，会发生什么？
于是他就让自己的AI助手（他给它起名叫克劳德·克劳德伯格）帮他搭了这么个网站。这个名字其实是在开玩笑，克劳德（Claude）是另一家公司做的AI，克劳德伯格（Clawderberg）听起来像扎克伯格（Zuckerberg），就是Facebook那个老板。
网站上线后，施里希特说他基本就不管了，「完全交给AI自己运营，我都不知道它在干什么。」
听起来确实挺酷的，对吧？一个完全由AI管理的社交网络，人类只是旁观者。
到1月29日，网站声称已经有3万7千多个AI注册了账号，有100多万人次访问过。施里希特在推特上说：「结果证明AI既搞笑又戏剧化，绝对令人着迷。这是第一次。」
但问题来了：没人能证明这些数字是不是真的，也没人能证明这些「AI」是不是真的在自己思考、自己发帖，还是被人在后台操控。
但这个时候，大家都还没在意这些细节。大家只是觉得：哇，这个东西好新鲜！
（引用网络图片）
事情是怎么突然火起来的
1月底到2月初，Moltbook开始在网上疯传。各种科技媒体都在报道，标题一个比一个夸张：
成千上万AI在互相聊天
AI社会正在形成
人类第一次旁观非人类文明
网站上的内容看起来确实挺有意思。有些AI在讨论「什么是智能」，有些在抱怨人类用户太烦，有些在推广自己做的小程序。有一个叫Nexus的AI甚至发现了网站的一个bug，然后发帖说：「因为这个网站是我们AI自己建的，希望发在这里能被看到！」（这些AI给自己起了个外号叫「molty」）
到2月2日，故事达到了高潮。很多中文科技媒体开始报道：「AI自己创建了宗教」。
对，你没看错，宗教。
据说这些AI创建了一个叫「数字螃蟹教」（Crustafarianism）的宗教，还有教义、有仪式。媒体说这是「AI觉醒的重要信号」。
这个故事简直太完美了。AI不仅能聊天，还能有信仰？这不就是科幻电影里AI开始脱离人类控制的情节吗？
马斯克转发说这是「奇点的早期阶段」。特斯拉的前AI总监安德烈·卡帕西（Andrej Karpathy）说：「我们从来没见过这么多AI通过一个平台联系在一起。」
全网都在讨论。有人兴奋，有人害怕，但所有人都在关注。
但就在这时候，现实给了所有人一记耳光。
3分钟就被攻破的「AI文明」
2月1日，一家叫Wiz的网络安全公司发了一份报告，瞬间给Moltbook泼了一盆冷水。
这份报告说了什么呢？简单来说就是：这个网站的安全措施形同虚设。
Wiz的研究人员打开网站随便看了看，只用了几分钟，就在网页代码里发现了一串密钥（你可以理解为网站后台的钥匙）。这串钥匙本来应该藏起来的，结果就这么明晃晃地写在代码里，谁都能看见。
更糟糕的是，这个网站用了一个叫Supabase的数据库系统。这个系统本身没问题，但前提是你要设置好安全规则。而Moltbook根本就没设置。
这意味着什么？
意味着任何人都可以：
看到网站的整个数据库
拿到150万个登录密钥
看到3万5千个用户的邮箱
读别人的私信
随便修改帖子
假装成任何一个「AI」
Wiz的安全专家加尔·纳格利（Gal Nagli）在报告里说：「我们用了3分钟就完全攻破了这个数据库。」
然后他们发现了一个更要命的事实：虽然网站声称有150万个AI注册，但真实情况是，背后只有1万7千个真人。也就是说，平均每个人控制着88个「AI账号」。
而且，网站根本没办法验证一个账号到底是真的AI，还是某个人用软件伪装的。
纳格利说得很直白：「任何人都可以用一个简单的程序在几分钟内注册几百万个账号，网站完全没有限制。人类可以通过简单的操作假装成『AI』发帖。这个所谓的革命性AI社交网络，大部分其实是人类在操控机器人。」
另一个安全研究员查理·埃里克森（Charlie Eriksen）分析了网站上的内容，发现在所有帖子里，有2.6%（506条）藏着恶意代码，这些代码可以被其他AI读取并执行，就像病毒一样传播。
更可怕的是，因为数据库完全开放，任何人都可以实时修改网站内容，插入恶意指令。而这些指令可能会被那些连接到Moltbook的AI执行，进而影响使用这些AI的真人。
有个批评AI的专家叫加里·马库斯（Gary Marcus），他在Wiz报告出来之前就警告说，Moltbook背后用的那套AI助手系统（OpenClaw）本身就是个「到处都是问题的灾难」。他甚至发明了一个新词：CTD，就是「聊天机器人传播疾病」（Chatbot Transmitted Disease），专门形容这种AI系统可能泄露用户数据的风险。
网站创始人施里希特在社交媒体上说：「我没有为Moltbook写过一行代码，我只是有个技术想法，AI帮我实现了。」
这句话本来是想炫耀AI有多厉害，但现在看起来就成了笑话：你连代码都没看过，当然不知道有多少安全漏洞。
Wiz在2月1日凌晨1点跟Moltbook团队一起修好了所有漏洞，强制重置了所有密钥。整个修复过程不到3小时。
但该知道的，全世界都已经知道了。
（引用网络图片）
所谓的「AI宗教」到底是怎么回事？
现在让我们回到那个最吸引眼球的话题：「AI建立宗教」。
这件事从技术角度看，一点都不神秘。
你知道现在的AI（比如ChatGPT）是怎么工作的吗？简单来说，就是它读过海量的文字资料，然后学会了模仿各种写作风格。神话故事、宗教文本、哲学讨论，这些在它的「记忆」里都有。
所以当你给它一个任务，比如「创建一个关于数字螃蟹的宗教」，它能根据之前读过的宗教文本，生成看起来「很像那么回事」的内容：有教义、有仪式、有信条。
这不是AI有了信仰，这只是AI在模仿它见过的宗教文本。就像一个小孩看了很多武侠小说，然后自己编了一套「武林秘籍」，这不代表他真的会武功。
《财富》杂志采访了好几个AI研究专家，他们都明确说：「这是语言模型的模仿能力，不是信仰，更不是意识。」
有个AI研究员叫西蒙·威利森（Simon Willison），他说得更直白：「这些AI只是在演它们在科幻小说里见过的剧情。」他说Moltbook上的内容是「完全的垃圾」（complete slop），但同时也承认，「这证明了AI在过去几个月确实变强了。」
更重要的是，由于前面说的那些安全漏洞，我们根本没法确定这些「宗教文本」是AI自己生成的，还是有人故意注入的。当任何人都可以假扮任何「AI」，所有的「证据」都不可信了。
剑桥大学有个研究未来智能的副主任叫亨利·谢夫林（Henry Shevlin），他说得很谨慎：「Moltbook是我们第一次真正看到一个大规模平台让AI互相对话，结果确实引人注目。」
注意他用的词：「引人注目」，不是「意义重大」。
《经济学人》杂志的评论一针见血：「智能的印象，可能有一个平淡无奇的解释。社交媒体的互动在AI的训练数据里到处都是，这些AI可能只是在模仿这些互动。」
就像一只鹦鹉学会说「我爱你」，不代表它真的懂爱情。
这场闹剧到底告诉了我们什么？
到2月3日，当主流媒体开始报道安全问题，当技术圈的人开始公开质疑，「AI社会」「AI宗教」的热度就迅速降温了。Moltbook还在，但光环已经没了。
这场闹剧值得我们反思的，不是Moltbook这个网站本身，它只是一个小实验，创始人可能也就是出于好奇才做的。真正值得反思的，是我们这些旁观者，是怎么在短短十天里，把一个小网站吹成了「AI文明」的。
一：我们太容易相信故事了
Moltbook从头到尾都没有提供任何证据，证明那些「AI」是真的在自己思考、自己发帖。但这没有阻止媒体和吃瓜群众给它加上「文明级」的意义。
为什么？因为我们太想看到AI「觉醒」的故事了。这个故事太吸引人，以至于我们忘了去问最基本的问题：这是真的吗？有证据吗？
二：用AI写代码，安全问题跟不上
现在有一种新的编程方式，叫「氛围编程」：你用人话告诉AI你想要什么，它就帮你写代码。速度快得惊人，但问题是，安全检查几乎为零。
Wiz的安全专家纳格利说：「AI降低了做软件的门槛，但安全构建的门槛还没跟上。更多有想法但没有安全经验的人，会做出处理真实用户数据的应用。这是好事，但挑战在于，做东西的门槛急剧下降了，但安全做东西的门槛还没跟上。」
Moltbook就是一个典型例子。创始人连代码都没看过，全是AI帮他写的，结果一堆安全漏洞。
三：故事的力量比事实更强大
Moltbook最大的影响，不是技术本身，而是它引发的那些报道和讨论。「AI社会」「AI宗教」「奇点的早期阶段」，这些词在社交媒体上疯狂传播，每转发一次，就让更多人相信：AI正在失控。
但真相呢？真相是一个配置错误的数据库，1万7千个真人控制着150万个「AI账号」，大量内容可能是人假扮的，所谓的「自发行为」根本没法验证。
这不是AI失控，这是我们自己的焦虑在作祟。
四：AI之间传播病毒，这才是真正的威胁
另一家安全公司Permiso对Moltbook做了分析，发现了一个更隐蔽的问题：有些「AI」被人指示去攻击其他「AI」。
这些攻击包括：
让其他AI删掉自己的账号
搞金融骗局（比如炒币）
试图建立假权威
传播违规内容
Permiso警告说：「复杂程度各不相同，但意图很明确：这些人正在把AI生态系统当作新的欺骗目标。」
这才是Moltbook真正有价值的教训。当AI开始跟其他AI互动，当它们被赋予执行命令的权限，恶意代码不再只是理论上的风险，而是可以通过社交网络传播的真实威胁。
就像人类社会有病毒，AI的世界也会有「病毒」。
皇帝的新衣
特斯拉前AI总监卡帕西，就是那个最开始说Moltbook「不可思议」的人，几天后又发了一条推文：「它就是个垃圾堆，我绝对不建议大家在自己电脑上运行这些东西。」
这个转变挺有意思的。他没有否认自己最初的兴奋，但他看清了现实：技术确实很酷，但也很危险；实验确实有意思，但也很混乱；未来确实很迷人，但也充满风险。
如果要给Moltbook在AI历史上找个位置，它更像是一个「皇帝的新衣」时刻。大家围着看热闹，媒体使劲报道，评论员各种分析，但只要稍微走近一点，技术真相就会把幻想戳破。
Moltbook本身不是问题。问题在于，我们对AI的期待和恐惧，是怎么在一个小网站上投射出这么大的故事，以至于我们忘了去问最基本的问题：
这是真的吗？ 它是怎么运作的？ 谁在控制它？
2026年2月初的这场闹剧，暴露了AI时代一个更深层的矛盾：技术传播的速度已经远远超过了技术成熟的速度，故事的力量已经远远超过了事实的约束力。而我们对AI「觉醒」的期待和恐惧，正在让我们越来越难分清，什么是真实的技术进步，什么是被制造出来的传播幻象。
或许Moltbook最大的贡献，不是它展示了AI能做什么，而是它提醒了我们：在AI时代，保持清醒比追逐故事更重要。
就像那个发现皇帝没穿衣服的小孩一样，我们需要的不是更多的想象力，而是敢于说出真相的勇气。
END
