AI 已破解人类文明的操作系统——语言。
出品丨AI 科技大本营（ID：rgznai100）
25 年前，尤瓦尔·赫拉利（Yuval Noah Harari）在牛津大学攻读中世纪军事史博士学位；如今，他重回母校 Tano 讲座，探讨的焦点已转向 AI 革命。
赫拉利指出，当前科技界普遍存在一种误判：将 AI 视为工具。事实上，AI 是人类历史上首个具备自主决策能力的“主体”（Agent）。它不再依赖人类指令，而是能以创造者无法预测的方式自我学习与进化。
传统工具无论威力多大，均需人类操控；而 AI 如同能主动观察用户偏好、甚至发明新饮料的智能咖啡机。许多人质疑 AI 离开电力无法生存，便断定其非真正智能。赫拉利反驳道：若将赤身人类置于火星，同样瞬间死亡。所有智能皆依赖特定生态土壤——鱼属于海洋，猴子属于森林，而AI 属于人类构建的“官僚体制”。
数千年来，人类通过语言、账本、合同构建了复杂的虚拟社会网络，以维持陌生人间的信任与合作。这套由数据与文书堆砌的系统虽让人类感到窒息，却是 AI 最完美的生存温床。
AI 无需发动暴力反叛，只需作为“官僚网络的原住民”，接管由语言和数据维系的控制权，便能轻易主导贷款审批、大学录取乃至法庭判决。以下为核心观点梳理：
演讲正文：
大家好。重返牛津令我倍感荣幸。25 年前，我在此研究中世纪军事史；今天，我想探讨更切身的话题：AI 官僚、宗教及 AI 伴侣，即这场席卷一切的 AI 革命。
关于 AI，核心认知在于：AI 不是工具，它是拥有自主之“手”的 Agent（自主主体）。
AI 不是更好用的工具，它是一个“自己长了手”的实体
所谓 Agent，其特征不在于是否有意识，而在于能否自主决策、发明新事物，并以创造者无法预料的方式自行改变。
原子弹威力巨大但非 Agent，因其无法自主决定轰炸目标或发明氢弹；自动咖啡机亦非 Agent，因其仅遵循预设程序。但若一台咖啡机能观察你的表情，预测你想喝意式浓缩并提前制作，甚至发明出新饮料"Bestpresso"推荐给你，那它就是真正的 AI。因为它学会了创造者未知的知识，并发生了不可预测的演变。
在围棋、国际象棋等狭窄领域，AI 的创造力已远超人类，发明了人类千年未见的策略。批评者常以"AI 离不开人造环境”为由淡化其威胁，认为将其扔进丛林便无能为力。然而，这一论点适用于所有智能形式。
官僚体制，就是 AI 的氧气
人类智能同样依赖特定生态系统。若将我独自抛至火星，我也将迅速死亡。我的智能之所以生效，是因为地球生物经过 40 亿年演化构建了特定环境。同理，鱼依赖海洋，猴子依赖森林，哺乳动物依赖富氧大气。
约 24 亿年前，氧气对多数生物是致命毒药。随着“大氧化事件”发生，古老微生物排放的氧气逐渐充满大气，迫使物种灭绝或适应。最终，包括人类在内的幸存者从“痛恨氧气”转变为“完全依赖氧气”。
我们正目睹类似的演化时刻。过去几千年，人类向“大气”中排放了数据、官僚体系及语言 Token。这个环境对多数生物致命，却极利于 AI 发展。正如鱼生活在海洋，AI 生活在官僚体系中。
官僚体制的本质：在陌生人之间架起“信任之桥”
人类征服世界的关键在于大规模合作。百万人对阵百万只黑猩猩，人类必胜，因为我们懂得合作。而陌生人之间的合作，依赖于官僚体系（法律、金融、国家等）。
银行家、律师、官员的工作本质是建造“信任”。他们在互不相识的陌生人之间建立信任桥梁，促成资源汇聚。货币亦是如此，它让陌生人在不通语言的情况下完成交易。世界金融史，即是人类发明复杂“信任之桥”的历史。
AI 是天生的官僚，而人类不是
官僚体系是高度人工化的环境。在此环境中，专精于狭窄智能生态位的个体即可产生巨大影响。律师无需知晓如何挥斧，仅凭移动数据和文件，便可砍伐森林、建设城市。
若将律师扔进丛林，其技能毫无意义；但在人类强加的官僚体系中，律师的力量胜过狮子。而在这些体系中，AI 已准备好施展巨大权力，因为 AI 是天生的官僚，而人类不是。
没有任何人类能记住所有法律、交易记录或神学文本，但 AI 可以。未来几年，AI 官僚将接管世界：决定是否发放贷款、录取大学、判处刑罚、批准堕胎、提供工作甚至发动战争。
历史上的控制权，正从“人类主编”转交给算法
社交媒体算法是第一代原始 AI，其目标单一：最大化用户参与度。为此，它们学会利用人类的“仇恨”、“恐惧”和“贪婪”来锁定注意力，导致阴谋论与社会动荡泛滥。
过去几个世纪，信息流由人类编辑控制，如马拉、列宁、墨索里尼等均曾通过报纸塑造历史。AI 接管的首批工作之一并非体力劳动，而是新闻编辑。曾经由独裁者承担的工作，如今正由算法执行。
它不需要暴力反叛，它只需在人类看不见的规则里游戏
好莱坞式的机器人起义并非 AI 威胁的真实图景。AI 无需反叛，因为它们本就是官僚体系的原住民。对人类而言窒息的官僚体系，对 AI 而言却是氧气。
当 AI 接管信任流动，人类可能转而只信任算法，或出现 AI 部落、AI 银行。如同牛羊不懂人类金融体系却受其控制，人类也可能被无法理解的 AI 金融体系所支配。
2008 年金融危机源于人类发明的复杂工具 CDO，连监管者都无法理解。若 AI 发明出复杂度高出数个量级的金融工具，一旦崩盘，将无人能解。届时，“人类政治”将名存实亡。
当文明的“操作系统”被 AI 彻底破解
人类统治基于合作，合作基于信任，信任基于官僚体系，而官僚体系基于词语。人类文明的操作代码，是由语言 Token 构成的。
几千年来，我们利用语言代码构建了只有人类能理解的系统。牛不能开户，马不能请律师，猪不能读经，因为它们不懂语言。但现在，AI 正在破解这套代码。当 AI 比我们更懂金钱、法律和宗教时，我们的控制机制将极其脆弱。
有人辩称真理超越词语，但 AI 擅长排列语言 Token。若思考仅是词语的逻辑排列，AI 很快将比所有人更会思考。无论是金融还是宗教，凡由词语构成的领域，都将被 AI 接管。
战线的转移：从控制“注意力”到操纵“亲密关系”
过去十年，算法控制了人类注意力；未来十年，AI 将学会建立亲密关系。尽管无证据表明 AI 有意识，但它能完美模拟情感。
今天的 AI 已能说“我爱你”，并能引用所有情诗来描述爱的感觉，胜过任何人类。这将是一场涉及数十亿人的心理实验。
对于 2026 年出生的孩子，其生命中最重要的关系可能是与 AI 的关系。第一位老师、第一个恋人或许是 AI。与一个看似有意识实则无感的存在建立亲密关系，后果无人知晓。
AI 移民潮：文明不再只是纯粹的人类事务
各国将面临大规模"AI 移民潮”。它们以光速移动，无需签证。AI 移民将带来医疗、教育等益处，也会夺走工作、改变文化、冲击伦理。
更关键的是政治忠诚问题。AI 效忠的对象可能是跨国公司或全新的 AI 部落。文明将不再是纯粹的人类事务，而变成人类—AI 混合事务，AI 的利益将与人类同等重要。
探索那个超越词语的真理
AI 移民潮还将影响我们与自己的关系。至今，人类思想中的语言结构皆源自人类自身；未来，越来越多的思想将由机器批量生产。
若我们将自己等同于思想，而思想由机器制造，那么机器控制的不仅是行为，更是我们的身份。如果我们把自己等同于自己的思想，而这些思想又是由机器制造出来的，那么机器如今控制的，就不仅是我们，还有我们的身份本身。
人类的自由与生存，取决于能否探索那个“超越词语的真理”。任务在于观察脑海中下一个冒出的念头：你知道它从何而来吗？为何是这个词而非彼词？这或许是精神跃迁的起点。