精英日课在AI专题中解读了2021年出的一本书讲起，书名叫《AI时代：以及人类的未来》（The Age of AI: And Our Human Future），这本书的三个作者很厉害，分别是无需介绍的亨利·基辛格，Google前CEO埃里克·施密特，麻省理工学院苏世民计算机学院的院长丹尼尔·胡滕洛赫尔（Daniel Huttenlocher）。
ChatGPT 让2023年成了 AI 之年，正如 iPhone 在2007年开启了智能手机时代，我们现在正式进入了人工智能时代。
启蒙运动以来未有之大变局
2020年，麻省理工学院发现了一种抗生素，叫 Halicin，是一种广谱抗生素，能够杀死那些对市面上现有的抗生素已经产生耐药性的细菌。这个发现是由 AI 完成的，它通过考察天然产品库中的 61000 个分子，找到了这一个答案。这是人类科学家做不到的，而且 Halicin 为什么可以作为抗生素的化学特征，是人类科学家所不理解的。
类似案例还有很多，AlphaZero 完全不用人类棋手的棋谱，通过自己跟自己对弈学会了下国际象棋和围棋，然后轻松打败人类。它的走法，很多是人类棋手感到匪夷所思、没有考虑过的。
AI的厉害之处，不在于自动化，不在于它像人，而在于它不像人：他能找到人类理解范围之外的解决方案。这不是汽车取代马车的发明，也不仅仅是时代的进步。这是哲学上的跨越。
从古希腊、古罗马时代追求理性、到了启蒙运动，人们设想世界应该是由一些像牛顿定律这样的明确规则确定的，康德以后人们甚至想把道德也给规则化。科学家把万事万物分门别类，划分成各个学科，各自总结自己的规律，打算把所有的知识编写进一本百科全书。
然而进入20世纪，哲学界维特根斯坦提出了一个新观点。他说你们这种按照学科分类写条文的做法是不可能穷尽所有知识的。
现在AI找到的，恰恰就是难以被人所理解，不能用明确规则定义的智慧，这是柏拉图理性的失败，是维特根斯坦的胜利。
其实这个道理我们也熟悉，比如什么是猫？你很难精确定义到底猫是什么，但是当你看到一只猫的时候，你知道那是猫，这是一种感觉。
人类已经不是世界规律的唯一发现者和感知者。我们正目睹一个新智慧形态的觉醒。你说这是不是启蒙运动未有之大变局！
现在的AI是基于神经网络算法。现在有三种最流行的神经网络算法，分别是：
➡️ 监督学习（supervised learning），即给它提供训练数据，并给出标记，告诉它哪些是正确的哪些是错误的。发现抗生素的算法就是监督学习，图像识别也是。监督学习就好像学校里老师对学生的教学，对错分明有标准答案，但是可以不给讲是什么道理。
➡️ 无监督学习 （unsupervised learning），你不用标记数据，AI 看多了自动发现其中的规律和联系。比如淘宝给你推荐商品的算法就是无监督学习，AI 不关心你买什么样的商品，它只是发现了买了你买的那些商品的顾客也会买别的什么商品。无监督学习就好像一个学者，自己调研了大量的内容，看多了就会了。
➡️ 强化学习（reinforcement learning），是在动态的环境中，AI 每执行一步都要获得反馈的学习。比如 AlphaZero 下棋，它每走一步棋都要评估这步棋是提高了比赛的胜率还是降低了胜率，获得一个即时的奖励和惩罚，然后不断调整自己。强化学习类似训练运动员，哪个动作出错了立即给你纠正。
机器翻译，最开始是监督学习，训练一段时间后又使用无监督学习。
自然语言处理现在都用上了 Transformer 技术，它能更好的发现词语跟词语之间的关系。
还有一种流行的技术叫做生成性神经网络 （generative neural networks），特点是能根据你的输入生成一个什么东西，比如一幅画、一篇文章或者一首诗。生成性神经网络的训练方法是用两个具有互补学习目标的网络互相对抗：一个叫生成器，负责生成内容，一个叫判别器，负责判断内容质量，二者随着训练互相提高。
GPT 的全称叫做 生成式预训练变换器 （Generative Pre-trained Trnasforer），就是基于tranformer 架构的、经过预训练的、生成性模型。
危险的法宝
今年2月24日，OpenAI 发表了一则声明，叫 “对 AGI 以及以后的规划。这里的 AGI 是通用的人工智能，不但有人的水平，而且什么任务都可以干的智能。AGI 有可能在2025-2026年就会到来。
AI全面接管科研，甚至接管社会就在眼前。
以后，很多人会把AI当成神灵，AI什么都知道，AI的判断几乎总是比人类正确，那你说人们会不会从强烈相信AI，变成信仰AI?
我们可能会把AI的决定当作命运的安排。你猜这像什么？这就像是中世纪的基督教。垄断 AGI 的公司是不是就会成为新时代的教会？
我们正处于历史的大转折上，这绝对是启蒙运动界级别的思想和社会转折，工业革命级别的生产和生活转折，只是这一次转折的速度会非常非常快！
我们缺少AI时代的哲学家，我们需要自己的笛卡尔和康德来解释一切。
语言模型的开悟时刻
现在流行的几个生成 AI，包括 ChatGPT 和画画的 AI，背后都是大型语言模型 LLM （Large Language Models），这大约也是通往 AGI 的技术路线。那为什么大型语言模型这么厉害？
语言模型拥有非设计出来的能力，主要是因为他们足够大。
当你的模型足够大，用于训练的语料足够多，训练的时间足够长，就会发生一些神奇的现象。这就是量变决定质变。研究者把这个现象称为开悟（Grokking）。
这个现象，其实就是科学家之前一直说的涌现（Emergence）。涌现的意思是当一个复杂系统复杂到一定程度，就会发生超越系统元素简单叠加的、自组织的现象。比如单个蚂蚁很笨，可是蚁群非常聪明；每个消费者都是自主的，可是整个市场好像是有序的；每个神经元都是简单的，可是大脑产生了意识。
大型语言模型，也会涌现各种意想不到的能力，包括少样本学习、突然学会做加减法、突然之间能做大规模、多任务的语言理解、学会分类等等。研究者并没有刻意给模型植入这些能力，这些能力是模型自己摸索出来的。就如同孩子长大往往出乎家长的预料。
事后分析，涌现新能力的关键机制，叫做思维链（Chain-of-Thought）。思维链就是当模型听到一个东西后，它会嘟嘟囔囔自说自话，把它知道的有关这个东西的各种事情一个个说出来，而这些东西又和更多的东西相关。既然如此，只要我们设置好让模型每次都先思考一番再回答问题，他就能自动使用思维链，他就有了思考能力。
有人分析，思维链很可能是对模型进行编程训练的一个副产品。
现在，我们不得不重新思考以前对AI做出的各种假设，什么AI做事全靠经验，AI不会真的思考，AI没有创造力，包括AI会的都是用语言可以表达的东西，等等。