在里德·霍夫曼的新书《超级能动性：我们的AI未来可能走向何方》中，这位LinkedIn联合创始人提出，人工智能能够扩展人类的能动性——赋予我们更多的知识、更好的工作和更优质的生活，而不是削弱它。
这并不意味着他忽视了该技术潜在的负面影响。事实上，霍夫曼（与格雷格·比阿托合著了这本书）将他对人工智能以及更广泛的技术前景描述为一种专注于“明智的风险承担”，而非盲目乐观的态度。
霍夫曼表示：“一般来说，人们过于关注可能出错的地方，而未能充分关注可能成功的地方。”
虽然他支持“智能监管”，但他认为一个“迭代部署”流程更为重要。该流程能让每个人都能使用人工智能工具，并根据反馈进行调整，从而确保产生积极的结果。
霍夫曼指出：“如今汽车能跑得比刚发明时更快，部分原因在于我们搞出了一系列围绕刹车、安全气囊、保险杠和安全带的创新。创新并非仅仅意味着不安全；它实际上能带来安全。”
作为前OpenAI董事会成员、现任Microsoft董事会成员及Greylock合伙人，霍夫曼在讨论新书时谈到了已从人工智能中看到的好处、该技术对气候的潜在影响，以及“AI末日论者”（AI doomer）与“AI悲观论者”（AI gloomer）之间的区别。
本采访已根据篇幅和清晰度进行了编辑。
你已经写过另一本关于人工智能的书《Impromptu》。在《Superagency》中，你想表达哪些此前未曾涉及的内容？
《Impromptu》主要试图展示人工智能能够提供相对容易实现的智力放大，并通过一系列途径既展示又阐述这一点。而《Superagency》则更多地探讨人类能动性如何得到极大提升——这不仅是因为获得了超能力，更是因为随着所有人都从这些新技术中获得超能力，行业和社会发生了转型。
围绕这些话题的一般性讨论总是以沉重的悲观情绪开始，然后转变为人类和社会的新升华状态。人工智能只是这一过程中的最新颠覆性技术。《Impromptu》并没有太多触及通往这个更美好的人类未来所面临的担忧。
你在开篇将不同的人工智能观点分为几类：悲观主义者（gloomers）、末日论者（doomers）、Zoomer一代（zoomers）和开花者（bloomers）。先从“开花者”说起，因为你将自己归类为此类。什么是“开花者”？你为什么认为自己属于这一类？
我认为，“开花者”本质上是对技术持乐观态度的人，他们相信构建技术对个人、群体、社会乃至整个人类都大有裨益，但这并不意味着任何构建出来的东西都是完美的。
因此，应该以承担风险的方式前行，但要是明智的风险承担，而非盲从冒险；并通过对话与互动来引导方向。这也是我们在书中频繁讨论“迭代式部署”的原因之一，因为理念在于通过与众多人的互动来引导产品。例如：“如果它呈现这种形态，对所有人都会好得多，并且能将这些不良案例的影响范围缩小——不仅降低其发生频率，也减轻其潜在影响。”
当你谈到“引导”时，涉及监管，但你似乎认为最大的潜力在于这种迭代式部署，尤其是在大规模应用层面。你认为这些益处是内生的吗？还是产品需要以某种方式设计，以便人们能够参与其中并表达意见？
这可能因不同产品而异。但我们在书中试图说明的一点是：仅仅能够参与并就产品进行讨论——包括决定使用与否或在特定情境下如何使用——这本身就是一种互动，有助于塑造产品。因为产品的开发者会关注这些反馈，也会倾听来自网络、媒体等各方的声音。这些来自大量用户的引导和反馈规模巨大，独立于通过迭代过程提供的数据或直接定向反馈之外。
我想深入探讨这些机制是如何运作的。正如你在书中所指出的，尤其是ChatGPT变得极其流行。如果我说“我不喜欢ChatGPT的这一点”或“我对它有异议，我不会使用它”，那么我的声音会被大量使用者的洪流所淹没吗？
让数亿人参与并不意味着你会回应每个人的每一个反对意见。关键在于反馈的汇总。在总体汇总中，如果你表达了一种挑战、犹豫或态度的转变，随后其他人也开始表达类似观点，那么这种声音就更有可能被听到并引发改变。
此外，OpenAI与Anthropic相互竞争。它们非常仔细地倾听当前听到的反馈，并据此引导产品朝向人们想要的有价值功能发展，同时避开人们不想要的棘手问题。
作为消费者，我们可能希望利用这些工具，但它们可能在某些方面对我们而言并不明显地具有潜在危害。这种迭代部署过程是否会解决其他问题，也许是社会层面的关切，而这些关切并未在个体消费者身上显现出来？
我写一本关于“超级能动性”的书的部分原因，就是为了让人们也能就社会层面的关切展开对话。例如，有人说：“我认为人工智能会导致人们放弃自己的能动性，不再对自己的生活做决定。”然后人们去体验ChatGPT后说：“嗯，我没有那种体验。”如果只有极少数人真正经历了这种能动性的丧失，那么这就是反对它的近似论点。
你还谈到了监管。听起来你在某些情况下对监管持开放态度，但你担心监管可能会扼杀创新。你能多说一些你认为有益的AI监管会是什么样子吗？
我对智能监管持积极态度。一个领域是当你试图防止一些非常具体且极其重要的事项时——比如恐怖主义、网络犯罪以及其他类型的问题。你本质上是在试图阻止这种极坏的事情发生，同时允许更广泛的其他事物存在，因此可以讨论哪些措施足够精准地针对这些特定结果。
除此之外，书中还有一章探讨“创新即安全”。因为随着创新的推进，你会创造出新的安全性和对齐功能。这一点也很重要，因为汽车如今能比刚发明时跑得更快，部分原因在于我们实现了围绕刹车、安全气囊等一系列创新。创新并非仅仅不安全，它实际上会带来安全性。
我鼓励人们，尤其是在快速变化且不断迭代的监管环境中，将具体关切表述为可衡量的内容，并开始对其进行测量。因为一旦你发现该指标以强烈或令人担忧的方式增长，就可以深入探讨看看能做些什么。
你还做了一个区分，即在“悲观者”（gloomers）和“末日论者”（doomers）之间——末日论者更关注超级智能带来的生存性风险，而悲观者则更关注短期风险，如就业、版权等问题。我读过的部分似乎更侧重于回应悲观者的批评。
我试图让这本书面向两个群体。其中一个群体是那些介于对AI持怀疑态度（包括悲观者）和对AI好奇的人之间的读者。
另一群人是技术专家和创新者，他们说：“看，真正对人们重要的是人类能动性。因此，让我们将这一点作为设计视角，来构建面向未来的产品。通过将其作为设计视角，我们还能帮助构建更能增强人类能动性的技术。”
有哪些当前或未来的例子，说明人工智能如何扩展人类能动性，而不是削弱它？
《超级能动性》的核心观点是，人们往往将其简化为“我能获得哪些超能力？”但他们没有意识到，超级能动性是指当许多人获得超能力时，我也从中受益。
一个典型的例子是汽车。我可以去其他地方，但与此同时，当其他人去其他地方时，医生可以到你家里进行家访，因为你无法出门。因此，你集体获得了超级能动性，而这正是当下有价值的部分。
借助今天的人工智能工具，我们已经拥有许多超能力，其中包括学习能力。例如尝试说：“向五岁、十二岁和十八岁的孩子解释量子力学。”它在某些场景下非常有用——比如对着某样东西举起相机并问：“那是什么？”例如识别蘑菇或树木。
当然，还有一整套不同的语言任务。当我撰写《超级能动性》时，我会想：“好的，一位技术史学家会对我这里写的内容作何评价？”
当你在书中谈到其中一些例子时，你还提到，当我们获得新技术时，有时旧技能会因为不再需要而逐渐消失，同时我们会发展出新技能。在教育领域，也许它能让那些原本无法获取信息的人接触到这些知识。另一方面，你确实会听到这样的例子：有些人被ChatGPT训练和同化，以至于他们只是接受聊天机器人的答案，而不是深入挖掘不同的来源，甚至没有意识到ChatGPT可能会出错。
这确实是一种担忧。对于谷歌、搜索和维基百科也曾有过类似的担忧；这并不是新的讨论。就像之前那些情况一样，关键问题在于你需要学会在何处可以依赖它，在何处应该交叉验证，以及交叉验证的重要性程度，这些都是值得培养的良好技能。
现在，随着我们训练这些智能体变得更加有用且具备更高的准确性，你可以拥有一个能够进行交叉验证的智能体，它会提示：“嘿，有很多来源质疑这一内容，你对此感兴趣吗？”这种信息呈现方式增强了你的能动性，因为它提供了一组信息，让你决定深入探索的程度、研究多少以及确定性的水平等。这些都是我们在迭代部署过程中所获得的益处。
你在书中提到，人们经常问：“会有什么坏处？”而你说：“那么，会有什么好处呢？这才是我们需要更频繁地问自己的问题。”在我看来，这两个问题都很有价值。你既不想排除好的结果，也想防范坏的结果。
是的，这正是“成长型思维者”的一部分。你对可能的好事非常乐观，但这并不意味着你不考虑可能发生的坏事。问题在于，一般来说，人们过于关注可能出现的坏事，而对可能的好事关注不足。
你在其他采访中还谈到了另一个问题，那就是气候。我认为你曾指出，人工智能对气候的影响被误解或夸大了。但你认为，人工智能的广泛采用会对气候构成风险吗？
从根本上说不会，或者影响微乎其微。首先，正在建设的AI数据中心都大量使用绿色能源，像微软、谷歌和亚马逊这样的公司正在大力投资绿色能源领域以实现这一目标。
然后是AI何时应用于这些问题。例如，DeepMind发现他们能够在Google数据中心至少节省15%的电力，而工程师们之前认为这是不可能的。
最后一点是，人们倾向于过度描述它，因为它是当前的热门话题。但如果你看看过去几年我们的能源使用和增长情况，数据中心所占的比例非常小，而其中属于AI的部分更小。
但担忧的部分在于，未来几年数据中心和AI方面的增长可能会相当显著。
它可能会变得显著。但这也是我一开始就提到绿色能源的原因。
关于“悲观主义”心态最有力的论点之一，也是你在书中引用的一个案例是泰德·姜的一篇文章，该文章探讨了当许多公司谈论部署AI时，似乎采用的是麦肯锡式的思维模式，这种模式并非旨在释放新的潜力，而是关注如何削减成本和消除工作岗位。这是否是你所担忧的事情？
我正处于更多是过渡阶段，而非最终状态。正如我在书中所描述的，历史上我们总是伴随着许多痛苦和困难来应对这些转型，我怀疑这次也不例外。我撰写《超级能动性》一书的部分原因，就是希望从过去的教训和我们拥有的工具中汲取经验，以更好地应对这一转型，但这始终充满挑战。
我认为，我们在多种职业转型中将面临真正的困难。可能最先受到影响的是客服工作。企业之所以成为优秀的资本配置者，部分原因在于它们倾向于思考如何在各种框架下降低成本。
但另一方面，当你仔细想想时，你会说：“好吧，这些AI技术使人们的效率提高了五倍，让销售人员效率提高了五倍。我会因此减少招聘销售人员吗？不，我可能会招聘更多。”如果你再看看营销人员，营销与其他公司竞争等等。那业务运营、法律或财务呢？所有这些领域往往都是我们为风险缓解和管理付费的地方。
我认为，像客户服务这样的岗位在人员数量上确实会减少，但这正是我所说的“工作转型”的原因。人工智能带来的一条好消息是，它可以帮助你学习新技能、掌握新技能，并找到更契合你现有技能组合的工作。在这一过程中，发挥人的主观能动性的一部分，就是确保我们在过渡期也在构建这些工具。
这并不意味着这个过程不会痛苦和艰难。我只是想说：“我们能否以更优雅的方式完成它？”