访谈记录

TED：Sam，欢迎来到 TED。非常感谢你来。

Sam Altman：谢谢。这是我的荣幸。

TED：你的公司最近几乎每隔一周就发布一些疯狂到不可思议的新模型，至少感觉上是这样。我试用了其中几个。我想给你看看我在玩些什么。比如 Sora，这是图像和视频生成器。我问 Sora：如果你在 TED 现场分享一些震撼性的爆料，会是什么样子？你想看看它是怎么想象的吗？还不错，对吧？你会给它打几分？所有手都是五根手指？

Sam：跟我今天穿的衣服非常接近，吧？

TED：挺好的。我从没见过你这么有表现力。你通常——

Sam：不，我不是——我不是那么有表现力的人。

TED：所以也许是 B+。这个真的让我震惊。我让它画一张图，展示“智能”和“意识”的区别。你会怎么做？这是它做出来的。这个非常简单，但很了不起。什么样的过程会让它做到——这显然不只是图像生成。它连接到了你们整体模型所具备的核心智能。

Sam：是的。新的图像生成模型是 GPT-4o 的一部分，所以它包含了其中所有的智能。我认为这也是它能够做出这些让人们非常喜欢的东西的原因之一。

TED：如果我是一个管理咨询顾问，在试用这些东西，我可能会想：我的未来会是什么样？

Sam：我认为大致有两种看法。你可以说，天哪，它在做我做的一切，那我会怎样？或者你也可以说，回顾历史上每一次技术革命，现在有了这个新工具，我能做更多事情了。那我将能够做什么？确实，我们对某个特定岗位上的人的期待会提高，但能力也会大幅提升，所以我认为人们会很容易达到这种新要求。

TED：这个也让我印象很深。我让它想象 Charlie Brown 把自己当作一个 AI，它生成了这个。我觉得这其实相当深刻。你怎么看？一些新模型的写作质量，不只是这里，而是在细节上，真的上了一个新台阶。

Sam：是的，这是一个很了不起的元回答。但我们确实无从知道它是不是真的在那样“思考”，还是它只是在训练集中见过很多次这样的内容。当然，如果你分辨不出差别，那你又有多在意呢？

TED：这点真的很有意思。它并不——我们不知道。不过，乍一看，这不就是知识产权盗用吗？你们没有和《花生漫画》的版权方达成协议，还是——

Sam：你们想为这个鼓掌尽管鼓掌。请享受。我想说的是，我认为人类的创造精神极其重要，我们希望打造能够提升这种精神的工具，让更多新人能够创作出更好的艺术、更好的内容，写出让我们都喜欢的更好小说。我非常深地相信，人类会处在这一切的中心。我也认为，我们很可能确实需要围绕创造性产出的经济模式，找出某种新的模型。我认为人们长期以来一直在建立在他人的创造力之上。人们长期以来一直会受到启发。但随着创造力的获取变得极度民主化，人们又一直在基于彼此的想法进行创作，我认为会出现令人兴奋的新商业模式，我们和其他人都很期待去探索。它具体会是什么样，我还不确定。显然，有些事情是非黑即白的：你不能复制别人的作品。但你可以从中获得多少灵感？

如果你说，我想生成一种融合这七个人风格的艺术作品，而他们全都同意了，那么你怎么分配这笔钱应该给每个人多少？

TED：对。

Sam：这些都是大问题。但纵观历史，每一次我们把更好、更强大的技术交到创作者手中，我认为整体上我们都会得到更好的创造性产出，人们也确实会做出更令人惊叹的东西。

TED：一个更大的问题是，当他们并没有同意时怎么办。在我们的开场环节，Carol Cadwallader 展示了让 ChatGPT 以 Carol Cadwallader 的风格发表演讲。果然，它给出了一篇演讲，虽然没有她本人讲得那么好，但已经相当令人印象深刻。她说，好吧，这很好，但我并没有同意这样做。我们要怎么处理这个问题？有没有一种方式——是不是应该只限于那些同意的人？或者是否应该有一种模式，以某种方式规定：如果提示词中出现了某个具名个人，而之后使用了这个人的作品，那么他们应该因此获得某种回报。

Sam：现在，如果你使用我们的图像生成工具，说“我想要某个在世艺术家的风格”，它不会这么做。但如果你说“我想要某种特定的感觉、某个工作室、某个艺术运动之类的风格”，它会生成。显然，如果你要输出一首复制某首歌的歌曲，它也不会这么做。问题在于，这条线应该划在哪里，以及人们如何表达“这已经太过了”。我们以前通过版权法以及合理使用的大致边界处理过这个问题。再说一次，我认为在 AI 的世界里，我们会找到一种新的模型。

TED：但从这个角度看，世界上充满创造力的人现在是对 AI 最愤怒、或者最害怕的一群人之一。觉得自己的作品被偷走、未来被偷走，和觉得自己的作品被放大、并且可以被进一步放大，这是非常不同的感受。如果我们能转向后者，也就是第二种感受，我认为这真的会改变整个人类对这一切的接受程度。

Sam：我还是会说，有些创意工作者非常不安；也有些创意工作者觉得，这是有史以来最了不起的工具，他们正在做出令人惊叹的新作品。但这确实是一种变化。我非常理解那些觉得“我希望这种变化没有发生，我喜欢以前那种方式”的人。

TED：但原则上，对于任何给定的提示词，你都可以计算出有多少——应该有某种方式能够计算订阅收入或其他收入中有多少比例对应到每个回答。原则上，如果其他规则能够理清楚，虽然显然很复杂，应该可以计算出某种收入分成，对吗？

Sam：如果你是一名音乐人，你一生、整个童年或其他阶段都在听音乐，然后你产生了一个想法，去创作一首受你以前听过的音乐启发、但走向新方向的歌，你很难说其中有多少来自你 11 岁时听过的那首歌，有多少来自你 17 岁时听过的东西。

TED：没错，但我们这里谈的是这样一种情况：有人在提示词里明确点名某个人。

Sam：是的。还是那句话，现在如果你试图生成某个具名风格的图像，只要那位艺术家还在世，我们就不会这么做。但我认为，如果能探索一种新模式会很有意思：如果你说“我想用这位艺术家的名义或风格来做”，而他们选择加入，那么这里可以有一种收入模式。我认为这是值得探索的好事。

TED：所以我认为全世界都应该帮助你们尽快找出这个模式，而且我觉得这实际上会带来巨大差异。我想快速换个话题。你的模型和开源之间的竞争，DeepSeek 的出现对你们造成了多大冲击？

Sam：我认为开源有重要位置。事实上，就在昨晚，我们举办了第一次社区会议，讨论如何决定我们开源模型的参数，以及我们希望如何塑造它。我们会做一个非常强大的开源模型。我认为这很重要。我们会做一个接近前沿的模型，我认为会比目前任何开源模型都更好。这不会全都是——会有人以某些方式使用它，而这个房间里的一些人，也许包括你或我，并不喜欢。但在这里的整体格局中，开源模型会占据重要位置。我认为我们在这件事上行动晚了，但现在我们会把它做好。

TED：看起来你们的投入比 DeepSeek 据称花费的金，高一个数量级，甚至多个数量级，尽管我知道这其中存在争议。你有信心真正更好的模型会被认可吗？或者说，这在某种程度上是否会威胁到这样一种理念：通过走向巨大规模、投入数百亿美元，我们就能维持一种惊人的——

Sam：我每天都在给人打电话，求他们把 GPU 给我们用。我们的限制极其严重。我们的增长正在这样发展。DeepSeek 发布后，似乎并没有影响它。还有其他事情也在发生。

TED：跟我们讲讲增长吧。你刚才在后台告诉我一个令人震惊的数字。

Sam：我从未见过任何公司有这样的增长，不管是不是我参与过的公司，都没有见过 ChatGPT 这样的增长。这非常有趣。我深感荣幸，但亲历这一切也很疯狂，我们的团队已经精疲力尽、压力很大，我们正努力维持服务运行。

TED：你们现在有多少用户？

Sam：我想我们上次公开说的是每周活跃用户 5 亿，而且还在非常快速地增长。

TED：你刚才告诉我，它在短短几周内翻了一番，是从算力角度，还是从——

Sam：我那是私下说的，不过我想——

TED：Sam，是我记错了。非常抱歉。如果你真的想，我们可以把这段从节目里剪掉，而且这里没有人会发推。

Sam：它增长得非常快。

TED：所以你很有信心，你看到它在增长，像火箭一样起飞。你们一直在发布令人难以置信的新模型。现在，在你们最好的内部模型中，你看到了哪些还没有向世界公开、但你愿意在这个舞台上分享的东西？

Sam：首先，你问我们是否担心这个模型或那个模型。世界上会有很多智能模型。非常聪明的模型会在某种程度上商品化。我认为我们会拥有最好的模型，而在某些用途上，你会需要它。但坦率地说，现在这些模型已经足够聪明，对于大多数人想做的大多数事情来说，它们已经够用了。我希望这会随着时间改变，因为人们会提高期望。但如果你作为普通用户使用 ChatGPT，模型能力已经很强，不过我们必须打造一个优秀的产品，而不只是一个优秀的模型。所以会有很多人拥有优秀的模型，而我们会努力打造最好的产品。人们想要图像生成，你们刚才也看到了一些 Sora 的视频示例。他们希望把它和自己的所有东西整合起来。

我们刚推出了一个新功能，仍然叫 Memory，但它比以前的 Memory 好得多；这个模型会在你的一生中逐渐了解你。为了打造这个出色的一体化产品，我们还有很多东西会推出。我认为人们会继续使用它。未来会有很多模型，但我认为，也希望我们会继续专注于打造这个领域里最好的、具有定义意义的产品。

TED：昨天我看到你们宣布 ChatGPT 将了解用户的全部查询历史之后，我输入了一句：“ChatGPT，根据你知道的一切，告诉我关于我的事。”Sam，我当时惊呆了。太震撼了。它知道我是谁，也知道我的各种兴趣——希望其中大部分都是相当合适、可以分享的。但这真的令人惊讶。我感到一种真正的兴奋。

Sam：是的。

TED：也有一点不安，但其实主要是兴奋，因为这会让它对我有用得多，对吗？

Sam：我们的一位研究员大概在昨天或今天早上发了一条推文，说这种上传是逐步发生的。不是说某一天你把大脑接上去，而是你会在一生中不断和 ChatGPT 交流。也许有一天，如果你愿意，它会全天听你说话，观察你在做什么；它会逐渐了解你，成为你自身的一种延伸、一个伙伴，一个努力帮助你做到最好、尽可能做得更好的东西。

TED：在电影《她》里，AI 基本上宣布说，她已经读完了他的所有邮件，认定他是一位很棒的作家，并说服一家出版社出版他的作品。这种事——会不会比我们想象的更快到来？

Sam：我不认为会完全以那种方式发生，但我确实认为会朝那个方向发展：AI 不再只是你去 ChatGPT 或其他什么地方说“我有个问题，给我一个答案”，而是它会主动向你推送能帮助你、让你变得更好的东西等等。这看起来确实很快会发生。

TED：你们内部正在出现的哪些东西，会让你觉得人们会大吃一惊？至少给我们一点暗示：下一个真正令人震撼的大事件会是什么？

Sam：目前我个人最兴奋的是用于科学的 AI。我非常相信，让世界和人们生活越来越好的最重要驱动力，是新的科学发现。我们可以用更少的资源做更多的事。我们在不断推进“可能性”的边界。我们开始从很多科学家那里听到反馈：使用我们最新的模型后，他们确实比以前更有生产力，而且这真的影响了他们能够发现什么。

TED：近期有可能出现的发现是什么？室温——

Sam：超导体，那会很令人兴奋。

TED：对，室温超导。这有可能吗？

Sam：有可能。我不认为这被物理定律所禁止，所以它应该是可能的。但我们并不确定。我认为，你会开始看到 AI 辅助工具在疾病方面带来一些有意义的进展。物理学可能需要更长一点时间，但我对此抱有希望。所以这是一个方向。另一个我认为很重要的方向，很快就会开始，在接下来的几个月里。软件开发已经发生了相当大的变化。现在创建软件的过程和两年前相比，差异之大相当惊人。

Sam：但我预计，随着智能体式的软件工程真正开始发生，未来几个月还会出现一次同样重大的跃迁。

TED：我听一些工程师说，他们在使用某些新模型时几乎有过一种宗教般的时刻：突然之间，他们一个下午就能完成过去可能需要两年才能完成的事。

Sam：是的，我也有这种感受。这确实是我强烈感到 AGI 正在到来的时刻之一。

TED：但说说你见过的最可怕的事情是什么？因为在外界，很多人会想象你能接触到这些东西，而我们又听到各种关于 AI 的传闻：天哪，他们是不是已经看到了意识，或者看到了 AGI，或者看到了某种末日正在到来。你有没有见过——内部有没有某个可怕的时刻，让你看到某些东西后觉得：我们必须重视这个？

Sam：确实有一些令人敬畏的时刻，而伴随这种感觉的总是：它会走多远？它会变成什么？但并没有那种——我们并没有秘密拥有某个有意识的模型，或者某个能够自我改进的模型，诸如此类。人们对重大的 AI 风险会是什么有非常不同的看法。我自己对这些风险会出现在哪里的思考也发生过变化。但我仍然相信，未来会出现非常强大的模型，人们可能会以严重的方式滥用它们。人们经常谈到新型生物恐怖主义的潜在可能，谈到可能带来真正网络安全挑战的模型，谈到能够以某种方式自我改进、并导致某种失控的模型。所以我认为那里确实存在重大风险。然后还有很多其他事情，说实话，我觉得很多人在谈论虚假信息，或者模型说出不实内容之类的问题时，指的就是那些。

TED：先说你提到的第一类风险。你们内部会事先检查吗？

Sam：当然会。我们有一个“准备框架”，概述了我们如何进行这类检查。

TED：你们安全团队有一些人离职。离开了多少人？他们为什么离开？

Sam：我们有——我不知道确切人数，但很明显，大家对 AI 安全系统有不同看法。我更愿意强调我们的实际记录。有人会说各种各样的话；现在世界上大约 10% 的人在大量使用我们的系统。我们对自己的安全记录非常自豪。

TED：但从某种意义上说，过往记录不是问题所在，因为——

Sam：不，它在某种程度上就是问题所在。

TED：我们谈论的是一种指数级增长的力量，我们担心有一天醒来，世界就要终结了。所以这其实不是关于过往记录，而是要能可信地说明：如果我们看到危险，相关机制已经到位，可以迅速把事情停下来。

Sam：对，对。

Sam：不，当然，当然这很重要。你不能某天一觉醒来就说：“嘿，我们之前没有任何安全流程。现在我们觉得模型真的很聪明，所以现在必须重视安全了。”在这条指数曲线的全过程中，你都必须重视安全。当然，风险会增加，也会出现很大的挑战，但我们学习如何构建安全系统的方式，是这样一个迭代过程：把它们部署到真实世界，在风险相对较低的时候获得反馈，了解“这是我们必须解决的问题”。我认为，随着我们进入这些智能体系统，会有一整类新的问题需要我们学习如何应对。

TED：我们来谈谈智能体系统，以及它和 AGI 的关系。我觉得外界对此有些困惑。我自己也困惑。人工通用智能听起来，ChatGPT 似乎已经是一种通用智能了。我可以问它任何问题，它都会给出一个智能的回答。那为什么它还不是 AGI？

Sam：它并不是——首先，你不能问它任何问题。你这么说很客气，但它在很多事情上仍然糟糕得令人尴尬。即便我们解决了这些问题——希望我们会解决——它也不能持续学习和改进。它不能主动去把自己目前不擅长的事情做得更好。它不能去发现新的科学知识、更新自己的理解，并把这些事情做起来。而且它在某种程度上也不能——即便我们把标准放低，它也不能完成你在电脑前能做的任何知识工作。事实上，即便没有这种“对自己还不知道的事情变得更擅长”的能力，我也可能接受那作为 AGI 的一个定义。但目前的系统还做不到你说一句“去帮我完成工作中的这个任务”，然后它就自己去网上点击操作、打电话给某个人、查看你的文件并把事情做完。没有这一点，它显然还差得很远。

TED：你们内部对 AGI 是否有一个清晰定义？你认为我们什么时候可能达到 AGI？

Sam：这是那种——有个笑话说，如果你把 10 位 OpenAI 研究员放在一个房间里，让他们定义 AGI，你会得到 14 个定义。

TED：但这挺令人担心的，不是吗？因为这最初就是你们的使命。我们要率先实现 AGI，而且要安全地实现，但我们并没有一个清晰定义说明它到底是什么。

Sam：我正准备把答案说完。抱歉。不过我认为重要的、也是人们想知道的，并不是“我们完成了”这样一个神奇时刻到底在哪里；而是考虑到看起来将要发生的事情是：模型会在这条漫长的指数曲线上变得越来越聪明、越来越有能力，不断如此。不同的人会在不同节点把它称为 AGI，但我们都同意，它会远远超过那个节点，发展到某种系统——不管你想怎么称呼它——其能力远远超过我们。真正重要的是，当系统一步步变得比我们更强，当系统能够做我们并不完全理解的事情时，我们如何讨论一个在所有这些阶段乃至之后都安全的系统。我认为，比“AGI 什么时候到来、它的定义是什么”更重要的是认识到，我们正处在这条令人难以置信的指数曲线上。

TED：是的。

Sam：你可以说，“这就是我认为的 AGI。”你也可以说你认为 AGI 是另一个样子。其他人可以说超级智能还在更远的地方。但我们必须应对这个不可思议的系统，同时也会从中获得巨大的好处。所以我认为，我们应该把讨论从“AGI 的那个时刻是什么”转向一种认识：这件事不会停止。它会远远超出我们任何人会称为 AGI 的东西。我们必须建设一个社会，既能获得它带来的巨大好处，也能弄清楚如何让它安全。

TED：本周的一个讨论是，真正的变化时刻在于：AGI 是个模糊的东西，但清晰的是智能体 AI，也就是当 AI 被放开，可以自行推进项目、把各个环节拼起来的时候。你们实际上已经有一个叫 Operator 的东西，开始做这类事情。我试用了一下。我想订一家餐厅，它有点不可思议，确实可以继续往前做。但它当时说的是——整个过程很有意思，它会要你的信用卡以及其他信息。这次我选择不继续。但我认为这就是人们将面临的挑战。它在某种程度上是一种不可思议的超级能力，同时也有点可怕。Yoshua Bengio 在这里发言时说，智能体 AI 是需要关注的东西。当我们赋予 AI 权力，让它到互联网上做事情时，这就是一切可能出错的时刻。

在科幻故事里，让 AI 进入互联网一直都是“逃逸”发生、潜在事情可能严重失控的那个时刻。你们如何既发布智能体 AI，又设置好护栏，确保它不会走得太远？

Sam：首先，很显然，你可以选择不这么做，说：“我不想要这个。我要打电话给餐厅，在电话里把信用卡信息读给他们。”

TED：我可以选择，但其他人可能会说：“ChatGPT，去开放互联网，把互联网重写一遍，让它更有利于人类”，或者类似的话。

Sam：我想说的是，任何新技术都需要一段时间，人才会逐渐适应。我还记得以前我不愿意把信用卡信息放到互联网上，因为我父母让我相信，会有人读到卡号；你得先填表，然后再给他们打电话。后来我们差不多都说，好吧，我们会建立反欺诈系统，然后就可以慢慢放心使用。我认为，在很多方面，人们也会很慢才适应具有自主行动能力的 AI。但我也非常同意你刚才说的：即使有些人对此感到放心，有些人不放心，我们都会看到 AI 系统在互联网上到处点击操作。我认为，这是我们迄今面临的最有趣、也最具后果的安全挑战。因为一旦你让 AI 访问你的系统、你的信息，并赋予它在你的电脑上点击操作的能力，那么当 AI 犯错时，代价就高得多。

它会成为门槛——我们前面谈到安全和能力，我有点认为它们正越来越变成同一个维度：好的产品就是安全的产品。如果你不相信我们的智能体不会清空你的银行账户、删除你的数据，或做出其他无法预料的事，你就不会使用它们。所以，人们想使用的是他们真正能信任、真正安全的智能体。我认为，我们能否继续取得进展，取决于我们能否做到这一点，而这也是产品的一个根本组成部分。

TED：在一个智能体已经普遍存在的世界里，比如开源模型被广泛分发，有人说：“好，AGI，我希望你到互联网上去，尽你所能传播一个梗，说某某群体是邪恶的”，或者类似的事情。这不一定是每个人自己的选择。一个人就可能把这个智能体放出去，而这个智能体可能会决定：为了执行这个功能，我必须到处复制自己。那么有没有——

Sam：是的。

TED：你们内部有没有明确划出的红线，说明哪些是危险时刻，以及我们不能发布可能越过这些红线的东西？

Sam：有，这正是我们的“准备框架”的目的。我们会随着时间更新它，但我们已经尝试勾勒出，我们认为最重要的危险时刻在哪里，或者说有哪些类别、我们如何衡量，以及在发布之前如何缓解某个问题。从这段对话里我能感觉到，你希望 AI——你并不是一个很喜欢 AI 的人。

TED：不，事实上恰恰相反，我每天都在使用它。我对它感到惊叹。我认为这是一个令人难以置信的时代。我不愿意活在任何其他时代，我迫不及待想看到它会走向哪里。但我认为，我们一直在坚持——也必须坚持——不能把人简单划分到那些阵营里。你必须对这种可能性抱有热情的信念，但又不能被它过度诱惑，因为事情可能会变得非常糟糕。

Sam：不，不，我想说的是，我完全理解这一点。我完全理解有人看着这一切，然后说：这是一场即将降临世界的难以置信的变化，也许我不想要它，或者也许我喜欢其中的一部分。也许我喜欢和 ChatGPT 对话，但我担心艺术会发生什么；我担心变化的速度；我担心这些智能体在这里点击、在互联网上到处点击。也许总体而言，我希望这件事不要发生；或者我希望它发生得慢一点；或者我希望它以一种我可以挑选哪些进步会发生、哪些不会发生的方式发生。

TED：对。

Sam：我认为这种恐惧是完全理性的。那种焦虑也是完全理性的。我们所有人也都有很多这样的焦虑。但第一，这会带来巨大的正面收益。显然，你每天都在使用它。第二，我真的相信，社会会随着时间逐步弄清楚如何正确使用技术，当然中间会犯一些大错。第三，这件事会发生。这是世界现在已经知道的一项基础性发现，它会成为我们世界的一部分。我认为这类对话非常重要，讨论这些危险领域非常重要，讨论新的经济模式也非常重要。但我们必须以谨慎而不是恐惧的态度拥抱它，否则我们就会被那些用 AI 做出更好事情的人甩在后面。

TED：其实你一直是最有说服力的安全倡导者之一。你曾在参议院作证。我记得你基本上说过，我们应该成立一个新的安全机构，对任何相关努力进行许可，也就是说，它会拒绝许可某些项目。你现在仍然相信这个政策建议吗？

Sam：我对政府如何运作有了更多了解。我不认为这完全是正确的政策建议。

TED：那正确的政策建议是什么？

Sam：我确实认为，随着这些系统变得更先进，并产生真正的全球影响，我们需要某种方式——也许由这些公司自己共同制定合适的框架或合适的模式——但我们需要某种机制，让非常先进的模型接受外部安全测试，并且让我们知道何时接近这些危险区域。我仍然非常相信这一点。

TED：我觉得有点讽刺的是，一个安全机构也许正是我们想要的，但“自主行动能力”恰恰是不安全的东西。这个语言上有点奇怪。不过，我问——

Sam：我能就这一点再说一句吗？

TED：当然，请说。

Sam：是的，我确实认为，我们需要为模型定义严格的测试，理解我们作为社会整体最想关注的威胁是什么，并确保随着模型能力越来越强，我们有一套机制，让大家都能了解正在被发布到世界上的是什么。我认为这非常重要，而且我认为，从这个意义上说，那些会引发重大公共关注的模型离我们已经不远了。

TED：Sam，我问了你的 o1 Pro 推理模型，它非常——

Sam：谢谢你的 200 美元。

TED：每月 200 美元。这个价格很划算。我问它：我能问你的最尖锐的一个问题是什么？它思考了 2 分钟。2 分钟。你想看看这个问题吗？

Sam：想。

TED：Sam，鉴于你正在帮助创造一种可能重塑整个人类物种命运的技术，是谁赋予了你，或者任何人，这样做的道德权威？如果你错了，你个人如何承担责任、如何被问责？不，这个问题很好。令人印象深刻。

Sam：过去半个小时里，你一直在用不同版本问我这个问题。你怎么看？

TED：但我想说的是这样。下面是我对这个问题的版本。

Sam：但你不回答吗？

TED：你问我的问题是什么？

Sam：是的，你会怎么回答这个问题？

TED：如果我站在你的位置上？

Sam：是的，或者作为一个局外人，你怎么看？

TED：我不知道。你让我感到困惑。某种程度上，我也敬畏你，因为你打造出了目前最令人惊叹的东西之一。外界关于你有两种叙事。一种是，你是一位了不起的远见者，完成了不可能完成的事；你用比 Google 少得多的人手震惊了世界，推出了比你们此前所做的任何东西都强大得多的东西。你打造的东西确实惊人。但另一种叙事是，你已经改变了立场，从 OpenAI、这个开放的事物，转向了打造某种超级强大东西的诱惑。而且，你失去了一些关键人物。外界有这样一种叙事：一些人认为，在这个领域不能信任你。我很想知道你到底是谁。你关于自己的叙事是什么？Sam，你的核心价值观是什么，能够让我们、让世界相信，一个在这里拥有如此巨大权力的人有资格拥有它？

Sam：听着，我认为像其他任何人一样，我是一个复杂的人物，很难被压缩成单一维度。可能那些好的评价有些是真的，批评也可能有些是真的。就 OpenAI 而言，我们的目标是创造 AGI，并把它分发出去，让它安全地造福全人类。我认为从各方面看，我们在这个方向上已经做了很多。显然，我们的策略随着时间发生了变化。我觉得我们一开始并不真正知道自己“长大后”会成为什么样。我们当时并不认为必须围绕这件事建立一家公司。后来我们学到了很多，了解到这些系统到底会需要什么，比如资本方面的现实。但我认为，就把极其强大的 AI 以较高安全性放到很多人手中，并给他们工具去做他们将要做的各种了不起的事情而言，很难给我们一个很差的评价。我确实认为，说我们应该更多开源是公平的。

我认为，出于你之前问到的那些原因，当我们还不确定这些系统会产生什么影响、也不确定如何让它们安全时，我们采取谨慎做法是合理的。我想你之前的很多问题，至少也会让人对我们这样行事有一定理解。但现在我认为，作为一个世界，我们对此有了更好的理解；现在是时候把非常有能力的开放系统投放到世界中了。如果你明年再邀请我回来，你可能会因为有人滥用了这些开源系统而对我发火，说：你为什么要这么做？这很糟糕，你不该回到开放的根源。但我们无法避免——我们做的每件事都有取舍。

TED：是的。

Sam：我们只是这场 AI 革命中的一个参与者、一种声音，努力做到最好，并以负责任的方式把这项技术带到世界上。我们确实犯过错误，将来肯定还会犯更多错误。总体而言，在过去将近十年里——现在已经很久了——我们基本上做到了我们当初设定要做的事。前方还有很长的路要走。我们的策略未来还会继续变化，但对这项使命、对我们正在努力做的事情的坚持，我认为是非常强的。

TED：你之前发过这张图……好，这是《指环王》里的权力之戒。你的竞争对手——至少可以说，眼下和你关系并不友好的 Elon Musk——曾说，他认为你已经被这枚“权力之戒”腐蚀了。顺便说一句，这个指控——

Sam：（笑）嗨，Steve。

TED：公平地说，这个指控也可以反过来用在 Elon 身上。不过我很好奇。

Sam：我也许会回应一下。我还在考虑，也许会说点什么。

TED：当我们看到科技公司的 CEO 变得更有权力、更富有时，大家心里都会有这个问题：他们能驾驭这一切吗？还是这会变得不可抗拒？权力和财富会不会让人有时无法做正确的事，而只能紧紧抓住那枚戒指？你怎么看？你有时会感觉到那枚戒指吗？

Sam：你觉得，相比其他获得了巨大权力、并因此改变了行为方式，或者在世界上做了很多事情的 CEO，我做得怎么样？你怎么看？

TED：你有一种很好的……你不是一个粗鲁、愤怒、会出来对别人说攻击性话语的人。有时我会那样。

Sam：那是我唯一的恶习。

TED：不，我觉得从你个人的行事方式来看，这是令人印象深刻的。有些人会问：这是真实的你吗，还是背后还有别的东西在起作用？我只是想——我会接受这个反馈。你看过那些视频。

Sam：你是说索伦的权力之戒，或者类似那种东西。我会接受这个反馈。你觉得我做过什么事，说明我被权力腐蚀了？

TED：我认为人们担心的是，OpenAI 转向营利模式这一变化——有些人会说，你看，这就是了。你被对财富的渴望腐蚀了。曾经有一个阶段，它本来不会有任何股权。它会让你变得极其富有。顺便说一句，我并不认为这就是你个人的动机。我认为你想做出极其酷的东西，而我担心的是，你的——是那种竞争感：你看到其他人也在做这件事，于是就变得不可能以正确的节奏去发展。但你告诉我，我只是——如果你并没有这种感觉，那——世界上很少有人拥有你这样的能力和潜力。我们不知道那是什么感觉。那到底是什么感觉？

Sam：令人惊讶的是，和以前一样。人可以一步一步习惯任何事情。我想，如果我从十年前被一下子带到现在，会觉得非常迷失方向。但任何事情都会变成某种新的常态。所以感觉并没有什么不同。坐在这里谈论这件事很奇怪，但日常生活的单调感——这是从最好的意义上说——

TED：是的。

Sam：感觉完全一样。

TED：你还是同一个人？

Sam：我肯定在各种方面都不是了，但我自己并没有感觉有什么不同。

TED：你发的那条内容很美，是关于你儿子的。你最后说的那句话，说你从未感受过这样的爱，我想在场任何为人父母的人都非常懂那种感觉，那种人类拥有、而 AI 永远不会拥有的强烈生物性体验：你抱着自己的孩子。我想知道，这是否改变了你思考问题的方式。比如说，这里有一个红色盒子，还有一个带红色按钮的黑色盒子。你按下那个按钮，就很可能给你儿子带来最不可思议的人生，但同时也会引入 10% 的概率，让他被毁灭。你会按下那个按钮吗？

Sam：如果是字面意义上的情况，不会。如果问题是，我是否觉得自己在工作中正在做这样的事，答案也是我并不这么觉得。有了孩子改变了很多事情，这绝对是发生在我身上最了不起的事。大家所说的一切都是真的。我的联合创始人 Ilya 曾经说过一句话，我不确定原话是什么，大意是：我不知道生命的意义是什么，但它肯定和婴儿有关。这句话准确得难以置信。它改变了我愿意在某些事情上投入多少时间；不能和孩子在一起的那种代价，实在高得惊人。但是，我在有孩子之前就非常在意不要毁灭世界。现在我也非常在意。我并不需要有个孩子才在意这一点。

TED：是的。

Sam：我确实会更多地思考未来对他个人来说会是什么样子，但我也觉得自己有责任为每个人的未来尽我所能做最好的事。

TED：Tristan Harris 本周在这里做了一场非常有力的演讲。他说，在他看来，关键问题在于，你和其他做这些模型的同行基本上都认为，先进 AI 的发展是不可避免的，竞赛已经开始，除了努力赢得这场竞赛，并尽可能负责任地去做之外，没有别的选择。也许存在某种情形，你们的超级智能 AI 可以对其他所有人的 AI 起到刹车作用，或者类似的东西。但问题是，正是因为所有人都相信这是不可避免的，这就会通向严重风险和不稳定。你认为你和你的同行确实都觉得这是不可避免的吗？你能看到任何走出这种局面的路径吗？比如我们可以集体同意把事情稍微放慢一点，让整个社会更多参与进来，说，不，我们不希望它发生得这么快，它太具有颠覆性了。

Sam：首先，我认为，人们一直在放慢事情的节奏，因为技术还没有准备好，因为某些东西还不够安全，因为某些东西不能正常工作。我认为，各方都会搁置一些事情、暂停一些事情、推迟一些事情，不发布某些能力。所以我认为这种情况是存在的。而且，这也是我认为过往记录确实重要的地方。如果我们匆忙推出东西，然后出现各种问题——要么产品没有像人们希望的那样工作，要么存在真实的安全问题，或者其他问题——我稍后会回到我们做过的一项改变。我认为你可以这样做。除了一个例外，大多数相关团队之间都有沟通。我认为所有这些团队都非常重视 AI 安全。

TED：是哪一个？

Sam：我显然不会说。我认为大家确实都非常深切地在意把这件事做好。我认为，把它简单描绘成一场疯狂的竞赛、冲刺或类似的东西，忽略了其中的细微差别：人们确实在努力快速推出模型，为用户做出优秀的产品，但人们也极其强烈地感受到这件事的影响。

Sam：我想，如果你能坐进 OpenAI 或其他公司的会议室，你会觉得：这些人确实很在意这个问题。最近，我们确实调整了对传统上被理解为“安全”的其中一部分的看法。以我们的新图像模型为例，我们在传统上会归入“言论伤害”的问题上，给了用户更多自由。也就是说，如果你想让模型冒犯你，模型会不会允许你被冒犯？过去，我们在这方面设置了更严格的护栏。但我认为，模型对齐的一部分，是在社会所决定的非常宽泛的边界内，遵循模型用户希望它做的事情。所以，如果你要求模型描绘大量暴力内容，或者描绘某种强化刻板印象的东西，就会有一个问题：它到底应不应该这么做？而我们现在采取的是更宽松的立场。当然，这其中有些地方会开始与现实世界中的伤害发生关联，我们必须弄清楚界线该划在哪里。

但我认为，会出现这样的情况：一家公司说，好，我们听到了来自社会的反馈。人们确实不希望模型以他们认为不合理的方式审查他们。这是一种合理的安全协商。

TED：但在某种程度上，如果这是一个集体信念的问题，那么解决这类问题的办法，就是把人们聚在一起，在某个点上达成会面，并形成一种不同的协议。假如有一群人，比如就在这里，或者在世界其他地方，愿意举办一场峰会，邀请最优秀的伦理学家、技术专家，但人数不要太多，规模要小，同时邀请你和你的同行，一起来努力厘清全球范围内可以达成共识的安全边界。你愿意参加吗？你会敦促你的同行也来吗？

Sam：当然会。但我更关心的是我们数亿用户整体上想要什么。我认为，过去很多事情都是在小范围的精英峰会上决定的。AI 一个很酷的新特点是，我们的 AI 可以和地球上的每个人交谈。我们可以了解所有人整体的价值偏好，而不是让一群被社会赋予资格的人坐在一个房间里做这些决定。我觉得这非常酷。我认为你们会看到我们在这个方向上做更多事情。过去，当房间里的精英对于人们希望 ImageGen 设置怎样的护栏有一种看法，而人们实际想要的是另一种看法，并且我们又无法指出现实世界中的伤害时，我们就做出了改变。对此我感到自豪。

TED：但数亿人的行动产生意外后果，这方面已经有很长的历史记录了，而且有些人——

Sam：100 个人坐在一个房间里做决定，也同样会这样。

TED：对，而数亿人并不能控制这些后果，他们未必能看到下一步可能会导致什么。

Sam：我希望如此。你说得完全准确，也完全正确。我希望 AI 能帮助我们变得更明智，做出更好的决定，能和我们对话。如果我们说：“我想要 X”，而不是由群体直接把它推动起来，AI 可以说：“我完全理解这是你想要的。如果在这段对话结束时你仍然想要它，你掌控决定，你来选择。但你有没有从这个人的角度考虑过？或者考虑过它会对这些人产生什么影响？”我认为，AI 可以帮助我们变得更明智，做出比过去更好的集体治理决策。

TED：好，我们时间已经严重超了。Sam，我把最后发言的机会给你。综合所有因素来看，你认为你的儿子会成长在一个什么样的世界里？

Sam：我还记得，虽然那已经是很久以前的事了。我不知道第一代 iPad 是什么时候发布的，大概 15 年前之类的吧。我记得当时看过一段 YouTube 视频，一个小小的幼儿坐在某个地方，像是医生诊所的候诊室。那里有一本杂志，就是那种老式的、封面光亮的杂志。那个孩子把手放在杂志上这样划动，然后有点生气。对那个幼儿来说，那就是一个坏掉的 iPad。她从来没有想象过一个没有触摸屏的世界。而对所有看这段视频的成年人来说，这是一件很惊人的事，因为触摸屏太新了，太神奇了，简直像奇迹一样。当然，杂志才是这个世界原本运转的方式。我的孩子，希望是我的孩子们，永远不会比 AI 更聪明。他们永远不会成长在一个产品和服务不是极其智能、极其强大的世界里。

他们永远不会成长在一个计算机不能理解你、不能做事的世界里——在某种定义下，几乎是你能想象的任何事情。那将是一个物质极大丰富的世界。那将是一个变化速度极快、令人惊叹的新事物不断发生的世界。那也将是一个个人能力、个人影响力以及其他各方面都远远超出今天一个人所能做到的世界。我希望我的孩子们，以及你们所有人的孩子们，将来回看我们时，会带着一些怜悯和怀旧，说：他们过着多么糟糕的生活，他们受到那么多限制，那个世界太糟糕了。我觉得这很好。

TED：你所构建的东西令人难以置信，真的。太不可思议了。我认为在接下来的几年里，你将拥有也许是历史上任何人都少有的一些最大机会，面临最大的道德挑战，做出最大的决策。你应该知道，在座每个人都会为你加油，希望你做正确的事。

Sam：我们会尽最大努力。非常感谢。

TED：感谢你来到 TED。谢谢你，Sam。谢谢。

Sam：非常感谢。

TED：很高兴和你交流。谢谢。