周一，马克·扎克伯格发表一篇6500字的宣言关于个人AI，主要探讨Meta AI正在构建的“个人超级智能”系统的可能性。文章中的观点并非完全新颖。两周前，《华尔街日报》曾刊登过该文章的版本，他此前也在Meta的财报电话会议上讨论过这些观点。但这可能是他分享过的最详细的版本。
有人将其描述为一篇反对“末日论”的文章，但这并不准确。它更像是对马克·扎克伯格为何对AI将如何改变社会感到兴奋的个人阐述。然而，尽管扎克伯格试图描绘一个由丰富超级智能带来的美好未来，他却不断提醒我们，这一切很可能以各种方式出错。
我也觉得AI令人兴奋——这也是我持续撰写相关文章的原因——但许多公众认为AI令人毛骨悚然且令人不快。因此，有必要厘清这里究竟发生了什么，以及为什么像这样的文章并没有给行业带来任何好处。
社交媒体仍然是科技行业的一个敏感话题，我们没有足够的空间来逐一辩论人们对Facebook提出的各种投诉的相对合理性。简而言之，作为产品的Facebook和作为人的扎克伯格在美国公众中都不受欢迎。最近的一项调查发现，64%的美国人认为社交媒体对民主有害，类似比例的受访者认为应对其进行更严格的监管，这一数据在两党之间分布均匀。就在本周末，一家法院因该公司对儿童有害而对其处以5.67亿美元的罚款。舆论氛围非常糟糕。
我提起这一点，并不是暗示扎克伯格应该羞愧地退隐山林——但社交媒体的余波正是我们现在看到如此多关于AI社会影响焦虑的核心原因之一。无论公平与否，公众并不信任科技高管能确保像这样的新技术对社会产生积极影响。这篇文章非但没有承认这一点并试图赢回信任，反而一遍又一遍地展示了信任是如何最初丧失的。
文章的大部分篇幅都用于探讨关于智能的模糊概括——这与扎克伯格和杰克·多西过去对言论自由所做的模糊概括非常相似。例如这里有一段：
随着每个人获得更强大的工具，每个人塑造未来的能力将增强，而非减弱。……拥有不同利益的人和机构自然会相互制衡，从而导向积极的成果。构建积极AI未来的最佳且最现实的路径，是将超级智能带给每个人。
我想？我能想到一些利益冲突导致不良结果的例子，但让我们暂且搁置一边。更奇怪的是，这被呈现为一个认真的哲学结论，而不是Meta推向市场的具体产品“个人智能”。如果你已经倾向于不信任这个人，你可能会担心他写这一切是为了说服自己坏事不会发生。
当扎克伯格谈到具体例子时，这种感受对我来说变得更加强烈，其中许多例子与AI工具实际使用情况的现实惊人地脱节。例如，这是扎克伯格对教育中AI的看法：
每个人都将拥有一位拥有博士学位、精通所有学科且拥有无限耐心的个性化导师和教练，帮助你学习任何你想学的知识。学生将在他们需要的领域获得额外的帮助，而这些帮助目前仅向那些父母能支付费用的家庭提供。成年人将拥有一个超级智能的学习助手，它能精准地教你新工作技能、新语言、新爱好或任何其他你感兴趣的内容。
当然，扎克伯格所描述的产品已经存在：这就是像ChatGPT、Claude和Gemini这样的消费者聊天机器人。如果你想了解某个特定主题，这些工具确实很有帮助，但它们在教育领域的主要用途是逃避学习，因为你的个性化导师可以帮你做作业并撰写指定的论文——而且由于缺乏可靠的水印系统，老师无法确定哪些论文是由AI生成的。
这是一个风险相对较低的AI危害案例，但它是目前正在发生的真实情况。有时你设计一项技术是为了做好事，但它却产生了使情况恶化的意外后果。而世界上最有影响力的人物之一拒绝承认这一点，这足以让人们感到不安！
扎克伯格还举了一个例子，说明人工智能将如何使法律体系变得更好：
作为一个思想实验，假设只有一个人拥有超级智能律师。他将在法庭上获得不公平的优势——即使他在实质问题上站不住脚。这将导致社会状况恶化。但现在想象一下，每个人都拥有超级智能律师。在这种情况下，正义的执行将比今天更加公平和高效，因为今天的诉讼中往往存在技能和资源的不平衡。
同样，这是一个带有偏见的例子。诚然，获取合法的AI可能会带来一个更公正的社会，但也可能增加现有官僚主义困境的复杂性。或者它可能会引发一波新的滥诉者，他们就像垃圾邮件一样堵塞法律程序。面对这一切很难保持冷静，而扎克伯格并不担心这一点，这让我更加担忧。
在其他地方，即使是关于Meta现有业务实践的描述也开始呈现出一种奇怪的抽象色彩。例如，这是扎克伯格对Meta坚持免费增值模式的描述：
每个人都能免费或以可负担的价格使用这些工具。……我们将提供可供数十亿人使用的免费版本。对于那些愿意付费以使用更多计算资源的人，将采用动态拍卖机制，确保每个人在使用智能和计算资源时都能获得最低可能的价格，同时确保计算能力被用于人们集体认为最有价值的用途。这将确保超级智能的红利得到广泛分配。
从宏观角度来看，我同意他在这里说的所有内容。扎克伯格说得对，访问权限是一个问题；他也说得对，免费增值模式比要求所有人预先支付计算费用能提供更广泛的访问权限。现货计算资源的动态市场已经存在，所以他并非在构想完全脱离常态的事物。但每个消费级AI产品都会让用户免受其使用的计算资源现货价格的影响，这自有其原因。surge pricing（高峰定价）是一种糟糕的用户体验，尤其是当它应用于你实际依赖的工作工具时。
同样，我必须假设扎克伯格知道这一点，并且他实际上并不打算通过动态拍卖来设定代币价格。但在阅读这篇文章后，我现在对此的确定程度不如以前了。
有更好的方式来讨论这些问题。尽管Sam Altman和Dario Amodei存在诸多缺点，但当他们直接与公众沟通时，表现得相当不错。他们正是做了扎克伯格在此处所抗拒的事情：承认人工智能的危险性，强调自身的预防措施，并试图说服听众相信他们是值得信赖的。
这种沟通所能做的有限。有时（尤其是最近），保障措施失效，整个企业的内在危险便暴露无遗。但如果缺乏某种信任建立机制，该行业可能无法始终从这些失败中幸存下来。