精英日课解读了2023年3月9日刚刚出版的新书《ChatGPT在做什么…以及它为什么好使》（What Is ChatGPT Doing ... and Why Does It Work? ），作者是史蒂芬·沃尔夫勒姆（Stephen Wolfram）他是一个神人，他发明了Mathematics软件，他做了WolframAlpha网站，他搞了一个计算语言叫沃尔夫勒姆语言，他对整个物理学提出了全新的看法。
这本书不是赶时髦，讲的不是GPT的一般功能，而是数学原理和哲学思辨，而数学和哲学是不会过时的。本书得到了OpenAI CEO山姆·奥特曼（Sam Altman）的背书，说是他所见过最好的解释。
沃尔夫勒姆不但讲清楚了GPT的底牌和命门，而且提出了一个可谓惊世骇俗的洞见。
GPT和目前市面上所有的AI，本质上都是神经网络。所以GPT更像人脑，而不是像一般的计算机程序。GPT是一个语言模型，在最本质上，语言模型的功能无非是对文本进行合理的延续，说白了就是预测下一个词该说什么。也正式因为如此，如果让 GPT 做大数字的计算，他会出错。
但是，GPT 却为什么这么好用？奥特曼说，这是上天的眷顾。OpenAI最应该感恩的，是运气。
沃尔夫勒姆讲了GPT的一些特点，其中有三个最幸运的发现——
➡️ 第一，GPT没有让人类教给它什么「自然语言处理（NLP）」之类的规则。所有语言特征，语法也好语义也好，全是它自己发现的，说白了就是暴力破解。事实证明让神经网络自己发现一切可说和不可说的语言规则，人不插手，是最好的办法。
➡️ 第二，GPT表现出强烈的「自组织」能力，也就是「涌现」和「思维链」。你不需要人为给它安排什么组织，它自己就能长出各种组织来。
➡️ 第三，也许是最神奇的一件事情是，GPT用同一个神经网络架构，似乎就能解决表面上相当不同的任务！按理说，画画应该有个画画神经网络，写文章应该有个写文章神经网络，编程应该有个编程神经网络，你得去分别训练——可是事实上，这些事情用同一个神经网络就能做。
GPT的底牌是：它只是一个语言模型，但同时，它很神奇。
GPT的命门是：它是用来思考的，不是用来执行冷酷无情的计算的。
这样说来，虽然GPT比人脑知道的更多、反应更快，但作为神经网络，它并没有在本质上超越人脑。而沃尔夫勒姆有一个洞见：用这么简单的规则组成的神经网络就能很好地模拟人脑的语言系统，这说明人脑的语言系统并不厉害，GPT证明了，语言系统是个简单系统！
沃尔夫勒姆让我们认识到了GPT的根本局限性：神经网络的计算范围是有限的。
AI 和人脑没有本质区别
到目前为止，AI 已经有了常识。那它是怎么掌握常识的呢？因为它们在大量的语料学习之后，产生了涌现。在2021年前后，GPT有了「开悟」和「涌现」，自动拥有了「少样本学习」的能力，长出了推理能力，有了思维链。
换句话说，GPT学的其实不是语言，而是语言背后的那个真实世界！GPT这个语言模型，抓住了语言背后的那个东西。
AI 和人脑没有本质区别，语言模型就是真实世界本身的投射。
暴力破解已经让语言模型如此强大，那么下一步是什么呢？是让它的结构更聪明，以及更重要的是，对AI的驯化。所以我们可以预期的是大模型暴力破解阶段已经暂时告一段落。现在的AI已经有了相当程度的智能，近期的首要问题不是让它更聪明，而是更精准、更好用、更能让社会接受。
降临派、拯救派还是幸存派
中文世界有个流行的说法，关于AI和人类关系的未来有三种信仰，你看看你相信哪一种——
➡️ 第一种是「降临派」，认为AI将主宰人类。比如说，OpenAI公司发明了最强AI，也许是GPT-6，几乎无所不能，别的公司再也没法跟它抗衡……于是以OpenAI公司为代表的一批精英人物就用最强AI统治人类，甚至干脆就是最强AI直接统治人类。
➡️ 第二种是「拯救派」，认为科技公司会找到某种保护机制，比如在技术上做出限制，确保人类能够永远控制AI。AI只是人的助手和工具，而绝不能统治人类。
➡️ 第三种是「幸存派」，认为AI太强了而且失控了，以至于根本不在乎人类文明，甚至会对人类作恶。人类只能在AI肆虐的环境中寻找幸存的空间……
要做出这个选择，我们需要哲学家，需要AI时代的康德，万维钢老师认为，AI时代的康德就是史蒂芬·沃尔夫勒姆（Stephen Wolfram）。2023年3月15日，沃尔夫勒姆在自己的网站发表了一篇充满洞见的宝藏文章，展望了AI对人类社会的影响。理解了沃尔夫勒姆的关键思想，你就会生出一种对未来世界的掌控感。这是一个有点烧脑的学说，包括三个核心观念。
我们首先要充分理解一个最关键的数学概念，叫做「计算不可约性（Computational Irreducibility）」。这是沃尔夫勒姆的招牌理论。约化，就是用一个浓缩的陈述，比如一个理论或者公式，来概括一个现象，是对现实信息的压缩表达，我们的一切自然科学、社会科学理论、各种民间智慧、成语典故，我们总结出来的一切规律，都是对现实世界的某种约化。但是世界上大量的事物是无法约化的，对于无法约化的事情，我们无法做出预测，只能老老实实等着它演化到那一步，才能知道结果，比如预测天气、股市、国家兴亡、或者人类社会的演变，等等。
计算不可约性还意味着，我们不可能彻底管住AI。反过来，也不可能出现一个终结 AI，能把我们的一切都给管住。因为计算不可约性，「拯救派」的愿景是个不可实现的理想，「降临派」的野心更只不过是一种痴狂。
沃尔夫勒姆的第二个核心观念叫「计算等价原理（Principle of Computational Equivalence）」，意思是所有的复杂系统，不管看起来多复杂，都是同等复杂的，不能说哪个系统比哪个系统更复杂。
既然都是平等的，那硅基生命和碳基生命自然也是平等的。那面对AI，我们凭什么认为自己更有价值？这就引出了沃尔夫勒姆的第三个核心观念：人的价值在于历史。我们身上的基因背负了亿万年生物演化的历史包袱，我们的文化承载了无数的历史记忆。我们的价值观，本质上是历史的产物。但是，AI没有历史。AI至少在短期内没有办法形成自己的价值观。它们只能参照——或者用个时髦的说法叫「对齐（align with）」——我们的价值观。这就是人类相对于AI最后的优势。
这样我们就知道了AI到底不能做什么：AI不能决定人类社会探索未知的方向。根据计算不可约性，未来总会有无数的未知等着我们去探索，而AI再强也不可能在所有方向上探索，你总要有所取舍。取舍只能根据价值观，而真正有价值观的只有人类。所以只要AI还不完全是人，决定未来发展方向的就只能是人，而不是AI。
这就决定了「幸存派」的说法也是不对的：AI再强，我们也不至于东躲西藏；我们还会继续为社会发展掌舵。当然，根据计算不可约性，我们也不可能完全掌舵——总会有些意外发生，其中就包括AI带给我们的意外。
所以未来AI跟我们真正的关系不是降临、不是拯救也不是幸存，而是「共存」。我们要学习跟AI共存，AI也要也跟我们、跟别的AI共存。
人的用处
要想不被AI替代，你需要掌握更高级的技能，包括：
➡️ 一个是「调用力」。各种自动化工具都是现成的但是太多了，你得有点学识，才知道干什么事情最适合调用什么工具。就如同ChatGPT知道调用各种插件，你要想对事情有掌控感，最好多掌握一些工具。
➡️ 一个是「批判性思维」。既然你要做选择，就得对这个世界是怎么回事有个基本的认识。你得区分哪些是事实，哪些是观点，哪些结论代表当前科学理解，哪些说法根本不值得讨论。你可能还需要一定的计算机思维，不是说非得编程，而是你得善于结构化、逻辑化的思考。
➡️ 然后你还需要艺术和哲学。这会提高你的判断力，让你能提出好的问题。艺术修养尤其能让你善于理解他人，这样你才能知道当今社会消费者的需求是什么，乃至于想象出新的需求。
➡️ 你还需要领导力。不一定非得是对人的领导力，你至少需要对AI的领导力。这包括制定战略目标、安排工作步骤、设置检验手段等等……管理AI，也是一门学问。
➡️ 然后你还需要一定的传播能力和说服力。你能把一个复杂想法解释清楚吗？你能让人接受你的观点吗？你能把产品推销出去吗？高端工作很需要这些。
➡️ 而所有这些智慧之中，沃尔夫勒姆认为，人最核心的一个能力，是你得决定你关心什么、你想要什么。这只有你自己能决定，因为答案来自你的历史和你的生物结构。这也是至关重要的战略选择，因为如果选不好，你的路可就走差了。