独
家
观
点
世界人工智能大会（WAIC）于2024年12月正式推出首份刊物《WAIC UP!》，这是一部「AI时代进化指南」。我们邀请全球AI及跨领域的先锋力量，借由他们的独特视角，针对AI争议问题，带来一些反直觉、非共识的思辨观点。
本期，我们有幸邀请到加州大学伯克利分校计算机科学杰出教授斯图尔特·罗素（Stuart Russell），他戳破了幻象：仅仅依靠“堆料”和规模，我们或许永远无法触及真正的AGI。而真正的危机在于，即便我们成功了，若没有想清楚“为何而成功”，这将是人类历史上最宏伟的、自我指向的陷阱。
斯图尔特·罗素
Stuart Russell
现任加州大学伯克利分校计算机科学杰出教授
美国国家工程院院士、英国皇家学会会士、国际安全与伦理人工智能协会主席
与彼得·诺维格 (Peter Norvig) 共同撰写了人工智能领域的权威教材
著有《Human Compatible》，探讨人工智能对人类社会的长期影响
以下为Stuart Russell独家观点的部分摘录：
规模扩张已触顶：AGI不可能靠“堆料”实现
“如果要解决更复杂的问题，就必须开展比单一语言模型本身更大体量的推理和计算。”
/ 01
我认为业内几乎所有人都已达成共识：仅依靠扩大语言模型规模，已经无法进一步带来性能的显著提升。在过去的一年多时间里，情况确实如此。目前所有的头部企业都已转向所谓的“大型推理模型”——其本质是保持大语言模型本体不变，但通过多次调用，生成推理链，从而回答问题。
这背后有充分的技术依据与数学考量支撑：因为许多问题无法在固定时间内解决，但大语言模型生成输出的时间却是有限的。如果要解决更复杂的问题，就必须开展比单一语言模型本身更大体量的推理和计算。
但我认为大语言模型陷入瓶颈另有原因，其中之一便是模型对数据的需求。模型在学习某些概念时效率极低，它们所需的数据量会远超人类掌握同一概念的数据需求，而且学习效果也并不理想，通常只能获得一些零碎、残缺的近似理解，理解中存在各种漏洞，而这些漏洞会进一步导致系统在推理和决策过程中犯错。
在我看来，即便有了大型推理模型，我们仍无法实现通用人工智能（AGI）。所以，必须要有新的技术突破。我们很可能需要彻底改变构建人工智能系统的方式，因为我们正在接近大语言模型训练的极限。
我们正用数万亿美元，打造一个“无人愿意栖居”的未来
“任何人终其一生所学的知识被人工智能在5秒内掌握时，人们可能会因此失去目标感和能动性。”
/ 02
每当问及“能否描绘一个人工智能——尤其是超级人工智能与人类社会和谐共存的未来图景？”或是“能否描述一个希望子孙后代生活于其中的世界？”时，却无人能给出答案。这背后的担忧在于：人工智能可能在各类岗位上取代人类，从而导致几乎所有人都面临大规模失业，甚至可能会面临“人类生命意义”的消亡——当人工智能在任何方面都能比人类做得更好，任何人终其一生所学的知识被人工智能在5秒内掌握时，人们可能会因此失去目标感和能动性。
现在，家长们已经开始担忧子女未来的职业选择，因为他们看到：人工智能系统可以成为艺术家、作家、电影制作者，还能撰写法律文书、编写代码——所有这些职业或许几年后将不复存在。当我邀请科幻作家、经济学家、未来学家和人工智能研究者描述出一个他们愿意让子女生活于其中且充满超级智能的人工智能世界时，没人能给出答案。这便是问题所在，这意味着我们耗费数万亿美元打造的技术，最终可能创造出一个我们不愿生活于其中的世界。仔细想想，这该有多么荒谬。
相比修好断腿的医学，我们对“心智科学”的认知仍是空白
“我们或许会见证全新职业形态的涌现，这些新型人才的涌现，让每个孩子在未来都能实现健康的心理成长，从而让他们悦享快乐、充实且成功的人生。”
/ 03
从长远看，社会或许会逐渐适应。比如，我们将学会为知识本身的价值而学习，而不是为了职业或经济利益去功利性地学习。今后的社会可能会更注重人际交往，而非像现在这样强调经济产出。
我们或许会见证全新职业形态的涌现，比如：一些人擅长通过多样化方式让他人获得幸福感，或者在养育子女方面展现出卓越的技能——这是我们当下并不擅长的。这些新型人才的涌现，让每个孩子在未来都能实现健康的心理成长，从而让他们悦享快乐、充实且成功的人生。
这一切固然美好。可现实是，当前我们对如何实现上述这些设想缺乏科学认知。例如，我们花费数个世纪发展出的医学，现在已经非常完善——如果我腿部骨折，有很大概率能够得到救治，让我不至于丧命于此，并且能重新行走，这就非常了不起。然而，当一个人的心灵遭受重创时，我们却不知该如何修复。如果有人出现心理崩溃，我们可能爱莫能助。在养育子女时，我们其实也并不清楚究竟什么会带来幸福，什么会导致不幸。
所以我认为，我们需要花费数十年时间去发展这些新科学——这些“人类科学”（Human Sciences）。只有这样，才能支撑我们在新型职业领域取得成功。
-
可在微信小店购买纸刊
也可扫码在线阅读
扫码进入#04期《WAIC UP!》
解锁9篇AI时代最实用的解决方案
Hello:
世界人工智能大会（WAIC）推出首份刊物《WAIC UP!》，一部「AI时代进化指南」。
WAIC UP! WAKE UP MORE！
我们邀请全球AI及跨领域的先锋力量，共同释放思考的力量与智慧的主张，旨在唤醒更多人，探究关乎技术跃迁、自我边界和未来文明的无限可能。
准备好！释放你的思考，觉醒你的行动，与我们一同探究那些尚未显现的可能性，勾勒以人为中心的未来智慧文明全景图！
