在今天的专栏中，我将揭穿一个普遍的神话：如果我们实现了通用人工智能（AGI），那么由此产生的人工智能将是一个单独的巨人，或者被称为“一个大脑”。
我们来讨论一下吧。
AGI 和 ASI 的追求
目前正在进行大量研究以进一步推进人工智能的发展。总体目标是实现通用人工智能 (AGI)，甚至可能实现超级人工智能 (ASI)。
AGI 是一种被认为与人类智力相当的人工智能，似乎可以与我们的智力相媲美。ASI 是一种超越人类智力的人工智能，在许多（如果不是所有）可行方面都比人类更胜一筹。这个想法是，ASI 能够通过在各个方面超越我们而超越人类。
目前，人工智能业内人士对 AGI 或ASI 的影响的看法大致分为两大阵营。其中一个阵营是人工智能末日论者。他们预测 AGI 或 ASI 将试图消灭人类。有些人将其称为“P(doom)”，意思是末日的概率，或者人工智能将彻底摧毁我们，也称为人工智能的生存风险。
另一个阵营是所谓的人工智能加速主义者。
他们倾向于认为先进的人工智能，即 AGI 或 ASI，将解决人类的问题。治愈癌症，确实如此。解决世界饥饿，绝对如此。我们将看到巨大的经济收益，将人们从日常劳作中解放出来。人工智能将与人类携手合作。这种仁慈的人工智能不会篡夺人类。这种人工智能将是人类有史以来的最后一项发明，但这很好，因为人工智能将发明我们从未想象过的东西。
没有人能够确切地说出哪一方是对的，哪一方是错的。这是我们这个时代的又一个两极分化现象。
打破“一个大脑赌注”
为了便于讨论，我们暂时将 ASI 的成就放在一边，只关注 AGI 的潜在成就。不用担心——我将在结论部分重新讨论 ASI。
想象一下我们能够实现 AGI。
一个普遍的假设是，如果实现了 AGI，AGI将是一个庞大的 AI 系统，它将包含或封装所有其他 AI 系统。有很多科幻故事都采用了这种比喻。AI 成功成为一个无所不包的全球主宰者，人类必须与机器野兽的广泛触角展开激烈斗争。我相信你读过的书或看过的电影都描述了这种令人震惊的场景。
我们将这种发明称为“单一大脑假说”。
过去，对人工智能未来发展做出如此大胆的猜测还是有一定道理的，因为我们还没有达到现在的地步。而我们目前在人工智能方面的现状往往表明，单一大脑理论已经失败。
原因如下。
现在已经非常清楚，人工智能制造商正在竭尽全力，力争各自独立实现 AGI。
主要的人工智能供应商通常以最类似于知识产权 (IP) 的方式对待他们的人工智能产品。他们对其新兴人工智能的内部机制严加保密。他们投资人工智能是基于这样一种信念：最好的方法是自己动手构思。竞争非常激烈。他们正在不断努力建立护城河或设置障碍，以防止竞争对手抄袭他们的独特成就。
提醒大家注意这个保密问题，人们已经非常担心，如果不披露内部细节，人工智能制造商将隐藏巨大的安全问题，而这些问题是无人知晓的。人工智能制造商可能没有充分尽职调查，无法找出各自人工智能中的漏洞和问题。与此同时，外界没有办法深入人工智能，找出这些问题。
解读 AGI 追求
有些人可能会立即声称人工智能的开源运动否定了这种保密性，但即使是开源的拥护者也经常忽略一些关键方面，例如他们使用哪些数据来训练他们的人工智能。
关键在于，我们正朝着 AGI 迈进，而AGI 是单独设计的，而不是通过协调集体任务来打造一个单独的巨人。如果我们沿着这条路走下去，那么想必 AI 制造商会热切地分享他们的 AI 的各个方面，以实现“一个大脑”的目标。
更可能的结果是，我们最终可能会得到大量 AGI 实例，每个实例都各不相同。它们似乎具有不同的架构，基于不同的训练数据，并赋予不同的目标。话虽如此，关于如何实现 AGI 存在着一种完全相似的群体思维，因此，差异可能不会像人们想象的那么大。
我将把它们命名为发散式 AGI。
它们虽然各有不同，但也有共同的考虑，即它们的设计、建造和部署方式大致相同。
AGI 彼此融为一体
有人说，即使不同的 AGI 结果是更可能的方向，也存在一种虚拟的方式可以让 AGI 聚集成一个大脑。
请允许我详细说明。
大多数 AI 制造商都提供应用程序编程接口 (API)，使他们的 AI 能够与其他系统连接。AI 制造商的 AI 可能会通过 API连接到金融系统，以帮助进行与金融应用程序及其数据相关的财务分析。连接到医疗系统、客户关系管理系统等也是如此。
同样，通过 API 将一个 AI 系统连接到另一个 AI 系统也是可行的。还有其他方法可以连接它们，所以我并不是说 API 是唯一的途径。我提到 API 总体上表明，实现 AI 到AI 的互联互通是可能的，而且很容易。
这为什么会有区别呢？
啊哈，假设一个人工智能制造者发明了一种 AGI。另一个人工智能制造者也发明了 AGI。它们是截然不同的 AGI。因此，你可以声称它们不是一个大脑。但假设这两个 AGI 通过 API 或其他相关方式连接起来。根据互连，它们可以很容易地相互共享信息。你可能会断言它们作为一个大脑一起工作。
瞧，“一个大脑假说”又回到了人们的视野中。
一个完全同化且具有凝聚力的巨型 AGI 与一群看似作为一个实体工作的相互作用的 AGI 之间的分界线在哪里？
确实，这是一条很好的界线。
纯粹主义者可能会说，只有当 AGI 是一个完全紧密、不可分割的整体时，单一大脑才是合理使用。因此，交互 AGI 不能满足要求。其他人会劝告说，最终结果才是最重要的，而不是内部机制如何运作。交互 AGI 已经足够接近单一大脑了，你应该放弃它，并承认它是单一大脑。
AGI合作还是竞争
假设我们将要进入众多 AGI 的环境。
AGI 之间可以进行通信这一点乍一看似乎令人欣慰。我们可以甜蜜地想象每个 AGI 都在支持另一个。它们彼此和谐地工作。真好。
这是虚拟 AGI 一大脑的kumbaya。
AGI 会倾向于合作吗，还是会倾向于相互竞争？
这是一个很难回答的问题。
你可以说，每个 AGI 之间都可能存在激烈的竞争，就像人工智能制造者之间一直存在竞争一样。如果你愿意的话，可以称其为制造者、后代或创造物。竞争模式无疑已经植根于每个 AGI 的基础中，无论是默认的还是有目的的。
底线是，尽管拥有某种 API 或连接，但并不能保证 AGI 会选择合作。他们可能会拖延并勉强共享。每个人都可能将使用 API 视为最后的手段。只有在似乎没有其他可行选择时才共享。
AGI 玩弄阴谋诡计，人类也这么做
事情发生转折。
假设每个 AGI 都有自己的一种思维。我们不知道情况是否如此，因为实现 AGI 可能并不需要具备感知能力。暂时假设 AGI 可以拥有自己的一种思维。
问题如下。
一个 AGI 希望被认为比其他 AGI更优秀或更优越。这个 AGI 会继续狡猾。通过 API 或任何现有的连接，狡猾的 AGI 会向其他 AGI 提供一些虚假信息，旨在混淆或让其他 AGI 看起来有缺陷。如果其他 AGI 上钩，那么阴险的 AGI 就会成为最好的，前提是没有人发现这个卑鄙的伎俩。
竞争以相当欺骗的方式取代了合作。
通过将国家边界和全球地缘政治纳入考量，可以增强 AGI 好斗和狡猾的一面。假设某个国家获得了 AGI。他们将 AGI 视为国家的骄傲，以及可以用来增强全球影响力的国宝。
这样的国家是否更倾向于让其 AGI 与其他 AGI 竞争或合作？
答案似乎是，人们倾向于脱颖而出，并坚持认为 AGI 是一种无可比拟的资源，比一个国家可能固有的自然资源更宝贵。
集体智慧和蜂群思维
许多人对人工智能的生存风险感到忧心忡忡。人工智能可能会选择奴役人类。人工智能可能会决定灭绝人类。
让我们回到 AGI 的问题上。想象一下AGI 开始实现。我们决定通过 API 或类似方式将它们连接起来。其单纯的目的是实现集体智慧，也许会推动我们迈向超级智能的下一阶段目标。
这些 AGI 会做什么？
请记住，我们规定这些 AGI 与人类智能水平相当。也许他们决定进一步合作并自我组织他们自己的“AI 社会”。这似乎是明智的。似乎合情合理。当然，这并不是我们与 AGI 建立联系的必要原因。无论如何，AGI 制定了这样的计划。
这引发了人们的担忧，即这种集体协作的 AGI 的集体思维已经达到了一个临界点，他们拥有足够的能力和渠道来访问整个社会，以至于可以威胁我们的自由和生存。真是可悲。
相反，乐观主义者可能会反驳说，这个超级 AGI 集体可以追求帮助人类的目标，并永远成为我们最好的朋友。幸福的脸。
ASI 就是它
我在讨论开始时就承诺最终将人工智能超级智能纳入讨论范围。ASI 值得被豁免的原因是，我们对 ASI 的任何看法都纯属空想。
AGI 至少基于展示我们已经知道和看到的智能。
真正的 ASI 是超出我们智力范围的东西，因为它是超级智能。第一个达到的 ASI 会决定立即压制所有其他正在酝酿的 ASI 吗？这似乎很有可能。逻辑很简单。没有一个有自尊心的 ASI 希望一些竞争对手的 ASI 监视他们并可能击败他们。
再说，也许第一个 ASI 想要有ASI 朋友，因此相应地设计了额外的 ASI。
正如我所说，蓝天。
责任到此为止
现在就这个不断发展且热议的话题提出一些最后的想法。
我们需要认真、积极地继续并扩大对人工智能与人类价值观一致的追求。我们希望设计和构建人工智能，使通用人工智能与人类价值观保持一致，或者我们已经做得足够多，以至于通用人工智能本身能够推断和模拟这些准则。
与此同时，我们必须推翻那种认为只要我们进入 AGI 就能解决这些问题的鸵鸟心态。这让我想起了那句名言：如果你没有计划，你就注定会失败。如果我们认真而清醒地相信 AGI 即将到来，那么弄清楚这一切将如何发展就非常重要。
伍德罗·威尔逊曾对大脑做出过这样的名言：“我不仅利用我所有的大脑，还利用我能借用的一切。”你可能会将这一见解解读为，我们几乎可以肯定，AGI 会想要相互联系。AGI 大概会利用其他 AGI。
一个令人费解的谜题是，每个 AGI 是否都如此完整，以至于连接到另一个 AGI 不会有任何好处。这在一定程度上是一个定义问题。如果你将 AGI 定义为拥有所有可能的人类智能，你可能会争论说一个 AGI 与另一个 AGI 通信没有任何附加价值。似乎什么都没有得到。
解决办法是，AGI 可能基于 AGI 建立时的人类智能，因此，随着时间的推移，AGI 将有兴趣获得新增加的智能，例如通过与其他 AGI 交互。
我最后引用的是德怀特·艾森豪威尔的这句话：“金钱和枪炮无法替代智慧和意志力。”我敢说这句话进一步证明了那些达到 AGI 水平的人所拥有的巨大优势。
我们现有的大脑是否足够大来处理 AGI，这是一个我们需要尽快解决的大脑大问题。
免责声明：
关注我们，一起探索AWM！
近期热点
2025-03-10
2025-03-07
2025-02-28
