人工智能与人类思维之间的亲密关系为何如此令人恐惧。
我和哲学家 Shannon Vallor 正在伦敦的大英图书馆，这里收藏着 1.7 亿件藏品，包括书籍、录音、报纸、手稿、地图。换句话说，我们谈话的地方正是当今人工智能聊天机器人（如 ChatGPT）的聚集地。
坐在图书馆咖啡厅的阳台上，我们实际上就在克里克研究所的阴影下，克里克研究所是生物医学研究中心，主要研究人体最深层的机制。如果我们从这里向圣潘克拉斯火车站对面扔一块石头，我们可能会砸到谷歌的伦敦总部，瓦洛尔在搬到苏格兰担任爱丁堡大学技术道德未来研究中心主任之前，曾在谷歌担任人工智能伦理学家。
在这里，瓦洛尔夹在人类的奥秘、人类语言的深厚认知财富和商业人工智能的傲慢自大之间，帮助我理解这一切。人工智能会解决我们所有的问题吗？还是会让我们变得过时，甚至灭绝？这两种可能性都引发了令人喘不过气来的头条新闻。瓦洛尔没有时间考虑这两种情况。
她承认人工智能既有巨大的潜力，既有好处也有破坏性，但她认为真正的危险在于其他地方。正如她在 2024 年出版的《人工智能之镜》一书中所解释的那样，人工智能像我们一样思考的幻想和它会成为恶毒独裁者的偏执幻想，都主张与人类建立一种虚构的亲缘关系，但代价是创造了一种对我们自身思维方式的幼稚和有害的看法。这种观点可能会鼓励我们放弃我们的自主权，放弃我们的智慧，以尊重机器。
当人类被视为没有思想的机器时，我们很容易断言机器和人类之间存在亲缘关系。
读完《人工智能之镜》后，我被瓦洛尔的决心所震撼，她决心深入探究人工智能的一系列问题，而不仅仅是一长串的担忧：隐私、错误信息等等。她的书实际上是一场关于人与机器关系的讨论，警示人们注意科技行业如何传播一种贬低人类的版本，将人类重新想象成一台柔软、湿润的电脑。
如果这听起来有些阴郁，那么瓦洛尔肯定不是。她从行业内部观察中获得了深刻的洞察力，并具备科学技术哲学的基础。她不是人工智能商业化的斗士，她热情地谈论她在谷歌的时光，同时嘲笑硅谷的一些荒谬之处。但她在这些问题上表现出的道德和理智的清晰和正直，与那些所谓的科技兄弟们典型的肤浅、幼稚的狂妄形成了鲜明的对比。
“我们正处于历史时刻，需要重建对人类明智推理和集体决策能力的信心，”瓦洛尔告诉我。“除非我们能够重新树立对人类思维和判断的信心，否则我们将无法应对气候紧急情况或民主基础的崩溃。而人工智能世界中的一切都在与此背道而驰。”
人工智能就像一面镜子
为了理解人工智能算法，瓦洛尔认为我们不应该把它们视为思维。“一个多世纪以来，科幻小说和人工智能的文化愿景让我们认为，当人工智能真正出现时，它将会是一种机器思维，”她告诉我。“但我们所拥有的人工智能在性质、结构和功能上都截然不同。”
相反，我们应该把人工智能想象成一面镜子，它不会复制它所反映的东西。“当你走进浴室刷牙时，你知道没有第二张脸在看着你，”瓦洛尔说。“那只是一张脸的倒影，它具有非常不同的属性。它没有温暖；它没有深度。”同样，思想的倒影不是思想。基于大型语言模型的人工智能聊天机器人和图像生成器只是人类表现的镜子。“使用 ChatGPT，您看到的输出反映了人类的智慧、我们的创作偏好、我们的编码专业知识、我们的声音——无论我们输入了什么。”
瓦洛尔说，即使是专家，也会在这个镜厅里被愚弄。计算机科学家杰弗里·辛顿 (Geoffrey Hinton) 因其在开发使 LLM 成为可能的深度学习技术方面的开创性工作而获得了今年的诺贝尔物理学奖，他在 2024 年的一次人工智能会议上表示，“我们理解语言的方式与这些大型语言模型非常相似。”
辛顿确信，这些形式的人工智能不仅仅是盲目地以我们认为有意义的模式复述文本；它们本身会发展出对单词和概念意义的某种理解。 LLM 的训练方式是让它调整神经网络中的连接，直到它可靠地给出好的答案，辛顿将这个过程比作“养育一个超自然早熟的孩子”。但由于人工智能比我们“知道”得多，而且“思考”得更快，辛顿得出结论，它最终可能会取代我们：“完全可以想象，人类只是智能进化的一个过渡阶段，”他在 2023 年麻省理工学院技术评论会议上说道。
“当 Hinton 开始谈论知识和经验时，他就太脱离实际了，”Vallor 说。“我们知道，大脑和机器学习模型在结构和功能上只是表面上相似。就物理层面发生的事情而言，存在着巨大的差异，我们有充分的理由认为这会产生影响。”两者之间根本没有真正的亲缘关系。
我对瓦洛尔说，我同意世界末日的说法被花太多时间在电视上。但一些研究人员表示，LLM 正变得更加“认知”：OpenAI 最新的聊天机器人模型 o1 据说是通过一系列推理链步骤工作的（尽管该公司不会透露这些步骤，所以我们不知道它们是否类似于人类的推理）。人工智能确实具有可以被视为思维方面的特征，例如记忆和学习。计算机科学家 Melanie Mitchell 和复杂性理论家David Krakaue提出，虽然我们不应该将这些系统视为像我们一样的思维，但它们可以被视为一种完全不同、不熟悉的思维。
“我对这种方法持怀疑态度。这种方法在未来可能是合适的，而且我原则上并不反对我们可能创造机器思维的想法。我只是不认为我们现在正在做的事情是这样的。”
瓦洛尔之所以反对将人工智能视为具有思想，是因为她的哲学背景。在哲学中，思想往往植根于经验，而这正是当今人工智能所不具备的。因此，她说，将这些机器称为具有思想的机器是不恰当的。
她的观点与英国数学家和计算机先驱艾伦·图灵 1950 年发表的论文《计算机器与智能》相矛盾，该论文通常被视为人工智能的概念基础。图灵提出了一个问题：“机器能思考吗？”——但他用一个他认为更好的问题取而代之，即我们能否开发出能够回答我们无法与人类区分的问题的机器。这就是图灵的“模仿游戏”，现在通常被称为图灵测试。
但瓦洛尔说，这一切都只是模仿而已。“对我来说，思考是我们拥有的一套特定且相当独特的体验。没有体验的思考就像没有氢的水——你拿走了一些东西，它就失去了它的特性。”
瓦洛尔说，推理需要概念，而 LLM 并没有真正发展这些概念。“我们在 LLM 中所说的概念实际上有所不同。它是高维数学向量空间中关联的统计映射。通过这种表示，模型可以获得比随机搜索更有效的解决方案。但我们的想法不是这样。”
然而，它们非常擅长假装推理。“我们可以问模型，‘你是如何得出这个结论的？’它只是胡扯了一整条思路，如果你继续追问下去，它很快就会变得一无是处。这说明这不是机器所遵循和坚持的思路。它只是另一种与它生成的输出适当匹配的类似推理的概率分布。它完全是事后诸葛亮。”
对抗人类机器
坚持认为人类思维和机器之间存在虚构的亲缘关系的陷阱早在 20 世纪 50 年代人工智能刚出现时就已显现。我告诉瓦洛尔，我最担心的一点是，这并不是因为人工智能系统的能力在比较中被高估了，而是因为人类大脑的工作方式因此被大大削弱了。
“这是我最大的担忧，”她同意这一观点。每次她在演讲中指出人工智能算法并不是真正的思想时，瓦洛尔都说，“观众中总会有人走过来对我说，‘好吧，你是对的，但这只是因为归根结底我们的思想也不会做这些事情——我们并不是真正理性的，我们并不真正对自己的信仰负责，我们只是预测机器，说出人们期望的话语，我们只是匹配模式，我们只是在做 LLM 正在做的事情。’”
辛顿认为 LLM 也可以有感情。“也许和我们不一样，但意义略有不同，”瓦洛尔说。“然后你意识到，他只是从人类经历的一切中剥离了情感的概念，并将其变成了一种行为主义反应。这是把 20 世纪最简化的人类思维理论作为基本真理。从那里，很容易断言机器和人类之间存在亲缘关系，因为你已经把人类变成了一台没有思想的机器。”
随着广受赞誉的通用人工智能 (AGI) 概念的出现，这些问题开始变得尖锐起来。通用人工智能通常被定义为一种机器智能，它可以执行人类可以执行的任何智能功能，但比人类做得更好。有些人认为我们已经处于这个门槛上。不过，要做出这样的断言，我们必须将人类智能重新定义为我们所做的一个子集。
“是的，这是一个非常刻意的策略，目的是转移人们对我们尚未制造出 AGI 并且还远远没有达到这一事实的注意力，”Vallor 说。
硅谷文化具有宗教的特征，任何反证或争论都无法动摇它。
最初，AGI 的意思是，它完全不错过人类大脑所能做的事情——我们毫不怀疑它正在思考和理解世界。但在《AI Mirror》中，Vallor 解释说，Hinton 和创建 ChatGPT 的公司 OpenAI 首席执行官 Sam Altman 等专家现在将 AGI 定义为在计算、预测、建模、生产和解决问题方面与人类相当或更好的系统。
“实际上，”瓦洛尔说，奥尔特曼“改变了目标，他说 AGI 是一种可以完成人类所做的所有经济上有价值的任务的机器。”这是社区的普遍观点。微软人工智能首席执行官穆斯塔法·苏莱曼 (Mustafa Suleyman) 写道，人工智能的最终目标是“将人类如此高效和有能力的本质提炼成软件和算法”，他认为这相当于能够“复制人类作为一个物种的独特之处，即我们的智慧”。
当看到 Altman 对 AGI 的重新定义时，Vallor 说道：“我不得不关上笔记本电脑，盯着太空看了半个小时。现在，我们为 AGI 设定的目标就是让你的老板可以取代你的东西。它可以像烤面包机一样不需要动脑，只要它能帮你完成工作就行。而 LLM 就是这样的——它们是不需要动脑的烤面包机，无需思考就能完成大量认知劳动。”
我与瓦洛尔探讨了这一点。毕竟，拥有能在国际象棋中击败我们的人工智能是一回事，但现在我们拥有的算法可以写出令人信服的散文、进行引人入胜的聊天、创作出让人误以为是人类创作的音乐。当然，这些系统可能相当有限且乏味，但它们不是正在越来越多地侵占我们可能认为是人类独有的任务吗？
“这就是镜子比喻有用的地方，”她说。“镜像可以跳舞。一面足够好的镜子可以向你展示你自己身上深层次的人性，但不是内在的体验——只是表演。”对于人工智能艺术，她补充道，“重要的是要意识到另一边没有任何东西参与这种交流。”
令我们困惑的是，我们可以对人工智能生成的“艺术作品”产生情感反应。但这并不奇怪，因为机器正在反映人类创造的模式的排列组合：肖邦式的音乐、莎士比亚式的散文。情感反应并非以某种方式编码在刺激中，而是在我们自己的头脑中构建的：与艺术的互动远没有我们想象的那么被动。
但这不仅仅关乎艺术。“我们是意义的创造者和发明者，这在一定程度上赋予了我们个人、创作和政治自由，”瓦洛尔说。“我们不会被我们所吸收的模式所束缚，而是可以将它们重新排列成新的形状。当我们在世界上提出新的道德主张时，我们就会这样做。但这些机器只是重复相同的模式和形状，只是在统计上略有差异。它们没有能力创造意义。这从根本上阻碍了我们声称与它们有真正的亲缘关系。”
硅谷的问题
我问瓦洛尔，这些关于人工智能的误解和误导是否根源于科技界本身的性质——培训和文化的狭隘性、缺乏多样性。
她叹了口气。“我一生大部分时间都住在旧金山湾区，从事科技工作，我可以告诉你，那种文化的影响是深远的，它不仅仅是一种特定的文化观，它具有宗教的特征。这种思维方式中的某些承诺是任何反证或争论都无法动摇的。”事实上，提供反证只会让你被排除在谈话之外，瓦洛尔说。“这是对智力的一个非常狭隘的概念，由一种非常狭隘的价值观驱动，效率和赢家通吃的统治是任何聪明生物追求的最高价值。”
但瓦洛尔继续说，“这种效率从未被定义为任何更高的价值，这总是让我感到困惑。因为我可以最高效地烧毁地球上的每一座房屋，但没有人会说，‘耶，香农，你是我们见过的最高效的纵火狂！干得好！’”
人们真的认为人类决策能力正在衰退。这让我感到恐惧。
在硅谷，效率本身就是目的。“效率就是要实现这样一种境况：问题得到解决，不再有摩擦，不再有歧义，没有未说或未做的事情，你已经控制了问题，问题消失了，剩下的只有你完美而闪亮的解决方案。正是这种将智力视为事物的意识形态想要消除思考的业务。”
瓦洛尔告诉我，她曾试图向一位 AGI 领导人解释，正义问题没有数学解决方案。“我告诉他，正义的本质在于，我们拥有相互冲突的价值观和利益，无法在单一尺度上进行衡量，而人类的审议、谈判和诉求工作至关重要。他告诉我，‘我认为这只是意味着你数学不好。’你对此有何看法？这变成了两种不相交的世界观。你谈论的是两种截然不同的现实观念。”
真正的危险
瓦洛尔并没有低估日益强大的人工智能给我们社会带来的威胁，从隐私到虚假信息和政治稳定。但她现在真正担心的是人工智能会对我们的自我观念产生怎样的影响。
“我认为人工智能对人类生命存在的意义构成了相当迫在眉睫的威胁，”瓦洛尔说。“通过自动化我们的思维实践，以及围绕它所创造的叙事，人工智能正在破坏我们作为世界上负责任和自由的智能的自我意识。你可以在希望为剥夺人类自治权辩护的权威言论中找到这一点。人工智能为这个故事注入了新的生命。”
更糟糕的是，她说，这种说法被呈现为一个客观、中立、与政治无关的故事：这只是科学。“有些人真的认为人类自主的时代已经结束，人类决策的太阳即将落山——这是一件好事，只是科学事实。这让我感到害怕。我们被告知，AGI 的下一步是打造更好的东西。我确实认为，有些非常愤世嫉俗的人相信这是真的，并从一种宗教安慰中得到安慰，相信他们正在引领我们的机器继任者走向现实。”
Vallor 不希望人工智能停滞不前。她说，人工智能确实可以帮助解决我们面临的一些严重问题。“人工智能在医学、能源领域和农业领域仍有大量应用。我希望它能够继续以明智的选择、引导和管理的方式发展。”
这就是为什么对人工智能的强烈反对（尽管可以理解）从长远来看可能是一个问题。“我看到很多人开始反对人工智能，”瓦洛尔说。“这在许多创意圈中正在成为一种强烈的仇恨。大约三年前，当 LLM 和图像模型开始出现时，这些社区的态度要平衡得多。很多人说，‘这很酷。’但人工智能行业对创作者的权利和代理权的态度是如此剥削，以至于你现在看到创意人士说，‘去他妈的人工智能和与之相关的一切，别让它接近我们的创意作品。’我担心这种对最有害形式的人工智能的被动态度会蔓延到人们普遍不信任人工智能作为解决任何问题的途径。”
尽管瓦洛尔仍然希望推广人工智能，但她表示：“我经常站在那些出于完全正当的理由而愤怒反对人工智能的人的阵营中。”她承认，这种分歧成为“人们经常坚持的人类与技术之间的人为分离”的一部分。她说，这种区别“可能非常具有破坏性，因为技术是我们身份的基础。早在我们成为智人之前，我们就是技术生物。工具是我们解放、创造的工具，是我们更好地照顾彼此和地球上其他生命的工具，我不想放过这一点，不想强化这种人类与机器之间的人为分歧。技术本质上可以是一种最人性化的活动。我们只是失去了这种联系。”
免责声明：
近期热点
2024-12-03
2024-11-17
2024-11-16
