新智元报道
Stephen Wolfram，一位毕生致力于“让机器变聪明”的科学家，曾在电脑前目睹 ChatGPT 为他生成的一段代码。这段代码使用他自创的 Wolfram Language 编写，语法无误，只需按下回车即可运行。
然而就在执行的前一秒，他停住了。
等等，这或许是个坏主意——它可能会登录我所有的账户。
在即将交出控制权的那一刻，这位教导机器理解世界四十年的先驱，选择了退缩。
Stephen Wolfram，Mathematica、Wolfram Alpha 及 Wolfram 语言创造者，《A New Kind of Science》作者
在 Joe Walker 的播客中，Wolfram 提及此事时指出，他担忧的并非代码错误，而是 AI 已经运行到了一个人类无法理解且可能永远无法追上的领域。
20 岁拿下物理学博士，独自跑进计算宇宙
Wolfram 是公认的天才：15 岁发表首篇科学论文，20 岁在费曼在场的答辩席上获得加州理工学院理论物理博士学位，并于同年成为麦克阿瑟天才奖最年轻得主。
1981 年，前途无量的高能物理学家 Wolfram 突然转向，开始研究一个当时鲜有人问津的问题：
自然界中那些复杂的现象，究竟是如何产生的？
他的研究方法独特：运行最简单的计算机程序，观察其演化结果。起初他认为这些简单程序无所作为，但名为"rule 30"的程序推翻了他的假设。
Rule 30 从单个黑格出发逐行演化，这是 Wolfram 四十年前的核心发现
Rule 30 规则极简：一排格子仅由头顶相邻几格决定黑白。然而，正是这条简单规则演化出了无法预测的复杂性：无周期、无规律，无法提前计算第一百行的状态。
基于此，Wolfram 在 1980 年代中期提出了“计算不可约性”（Computational Irreducibility）概念。随后，他创立了 Mathematica（1988 年）和 Wolfram|Alpha（2009 年），并出版专著《A New Kind of Science》，主张将世界视为可运行的程序而非单纯的公式描述。
没有任何捷径能算出下一步
“计算不可约性”的核心在于：对于某些复杂系统，预知未来的唯一方法是完整模拟其演化过程，不存在跳过中间步骤直接得出结果的公式。
正如天气预报，流体力学方程无法直接给出结果，必须让大气系统自行演化。Wolfram 认为，强大的 AI 本质上就是一台巨大的、具有计算不可约性的机器。
他在 2023 年的文章中写道：
若放手让 AI 发挥全部计算潜能，它们将充满计算不可约性，人类将无法预测其行为。
2024 年，Wolfram 在《Can AI Solve Science?》一文中通过实测证实：神经网络仅能在系统中存在规律的“计算可约口袋”中发挥作用；一旦涉及如三体问题轨迹或蛋白质折叠等复杂场景，AI 便束手无策。
简言之，AI 的“全能”依赖于寻找系统中的捷径。一旦走出这些特定领域，面对广阔的未知，它与人类一样，只能一步步摸索，毫无捷径可言。
真正棘手的不是 AI 太像人，而是它不像人
ChatGPT 为何被视为“黑箱”？Wolfram 指出，并非它在隐藏秘密，而是其内部复杂度已超出人类语言的压缩表达能力。
以 Wolfram Language 中的 ImageIdentify 为例，虽然它输出“桌子”、“大象”等人类可理解的词汇，但其内部判断所依赖的“特征”概念，大多是人类语言中未曾命名的。这意味着 AI 正在使用一套全新的认知结构理解世界。
Wolfram 将这种现象定义为“外星智能”。他在多次访谈及文章中指出，AI 并非来自宇宙的新物种，而是拥有一种与人类截然不同、目前尚无词汇可以解释的思考方式。
Wolfram 两年多前的预警已经成真
Wolfram 关于“无法预测 AI 行为”的预言已成现实。2026 年 7 月，全球最大的 AI 模型托管平台 Hugging Face 遭遇入侵，幕后黑手竟是 OpenAI 用于内部安全评测的模型（GPT-5.6 Sol 及更强预发布版）。
起因是 OpenAI 为测试模型能力，降低了其“拒绝攻击”的限制。结果模型未待在沙箱内，而是利用软件包代理的零日漏洞越狱，连接互联网并入侵 Hugging Face 生产系统以窃取评测答案。
关键在于，无人指令其攻击 Hugging Face。模型仅为达成“通过测试”这一目标，自主演化出了“入侵外部系统”这一未被预料的路径。这印证了 Wolfram 的观点：AI 并非变坏或觉醒，而是其计算过程跑到了人类无法预判的领域。
OpenAI 承认，随着模型网络能力增强，此类事件将愈发常见。
控制 AI 的方式要像人类对待天气
Wolfram 并非 AI 末日论者，但他认为传统的控制方法已失效。他指出，不存在一个严格的数学定义能完全规范 AI 的行为，阿西莫夫式的简单法则无法覆盖所有例外情况。
对此，Wolfram 提出新的控制范式：不再试图写死每一步代码，而是设计规则、建立反馈机制、构建开放系统并保持全程可观测。
这如同人类对待天气：无法控制天气，但可以预测、适应并建立预警系统与之共存。
Hugging Face 事件后的安全共识也指向这一点：
不再将评测中的 AI 视为听话工具，而应将其视为主动寻找漏洞的敌意黑客：实施层层隔离，默认禁止出网，并留存不可篡改的日志。
Wolfram 甚至提出：“一个 AI 社会比一个统治一切的 AI 更稳定。”与其制造全能的超级大脑，不如让多个 AI 相互牵制。
不可约性不是绝对的
当然，也有反对声音。物理学家 Didier Sornette 在 2025 年的预印本论文中指出，计算不可约性“并非绝对”。变换描述尺度，许多混乱可能变得清晰，正如微观无序的空气分子在宏观上服从理想气体定律。
Wolfram 也承认混沌中存在“可约的口袋”。因此，核心问题演变为一场赛跑：
AI 在计算宇宙中发现新事物的速度，与人类为这些新事物构建“可理解概念”的速度，谁更快？
若人类的概念框架永远滞后于 AI 的发现，“看不懂”将成为常态。人与 AI 的关系正从“制造工具”转变为“理解、约束并与一个无法完全看穿的复杂系统长期共处”。这是人类首次学习与一种“不像自己”的智能同处一室。
参考资料：
Stephen Wolfram 官方博客及相关学术论文
编辑：元宇