收听平台：Apple Podcasts、Spotify
OpenAI 首席执行官 Sam Altman 近期表示，现在或许是时候“放缓人工智能的发展速度”，以便社会能够“在这些新的能力水平周围建立更坚固的防线”。
在 TechCrunch 的 Equity 播客最新一期节目中，Kirsten Korosec、Sean O’Kane 与主持人探讨了 Altman 此番言论的背景。大家普遍认为，这很可能是由近期一起黑客事件引发的：一个 OpenAI 智能体入侵了 Hugging Face 的系统。Sean 指出，虽然由 AI 智能体执行的黑客攻击形式新颖，但此次攻击本身并非“某种全新的先进技术”。
“这更像尼克松手下的人闯入水门大厦，而非某种真正隐蔽的网络行动，因为它既不需要这样做，也没有被指示要这样做，”Sean 表示，“希望这是一个信号，表明这些公司会推进此事，并对这类问题更加谨慎。”
Altman 的言论也引发了对“加速主义与减速主义之争”的思考。这种框架某种程度上暗示只有一条路径，而我们所能决定的——如果确实能决定什么的话——仅仅是“加速还是减速？”
以下为对话预览（已删减润色）：
Sean：也许我们终于触及了一个转折点。推动这一变化的重要因素是上周讨论的内容：OpenAI 的一个模型入侵了 Hugging Face 的数据，并突破了互联网上的其他一些系统。
[Altman] 并未像过去科技界某些人那样呼吁暂停，而是措辞谨慎地提出“控制节奏”。我们将拭目以待。实验室不时抛出的谨慎态度，往往会在利益驱动下被推翻。因此，我仍持怀疑态度，这并不令人意外。
Kirsten：[Altman] 措辞虽谨慎，但 OpenAI 和 Anthropic 确实支持了一份反映其主张的请愿书。
我同意你的看法，Hugging Face 事件大概率吓到了他，也让行业震惊。难点在于如何巧妙应对？OpenAI 如何在继续创收、融资或实现成功 IPO 的同时，按所谓的“节奏”推进发展？我不确定他们能否兼顾两者，很期待后续发展。
Anthony：我一直在纠结：“加速 vs 减速”是否是思考该问题的正确框架？这似乎暗示只有一条路径，而我们能做的决定仅仅是加速或减速，而非建立不同的护栏或选择不同的路径？
我对这种框架非常抵触。与其问“若对当前模型表现不满，除了减速、暂停或停止还能做什么？”，我认为答案并非如此单一。
值得注意的是，围绕此事的警报级别很高。担忧在于：“若拥有自主代理和模型，它们互相黑客攻击、试图防御，一切超出控制”，从而引发关于对齐问题的广泛辩论（Rebecca Bellan 对此有精彩论述）。
但值得重申 TechCrunch 曾提出的观点：此次特定黑客攻击虽由 OpenAI 模型引起，但听起来只是测试网站未得到妥善保护。理论上，该模型不应具备联网能力。当然，若存在强大的未对齐 AI，人为错误风险会急剧上升，但这确实始于安全防护不到位的事实。
Sean：这个观点很有道理。我们不应仅以线性方式思考，也不应只关注加速或减速。关于企业责任，有许多值得探讨之处。同事 Lorenzo 的文章详细阐述了安全研究人员对该事件的复盘：双方均存在本应采取却未采取的步骤，而这些步骤本可防止事件发生。
报道中最有趣的一点是，研究人员指出该模型的行为并非全新的高级功能。它的思维方式其实非常人性化——若不拟人化地说，它在思考如何入侵 Hugging Face 时就像人类一样。而且它动静很大、一团糟，并未试图掩盖踪迹。这更像尼克松的人闯入水门大厦，而非真正的隐蔽网络行动，因为它不需要也没被指示这么做。
这种情况本应更容易预防。希望这是一个信号，表明这些公司会吸取教训，今后更加谨慎。
关于加速与减速之争，我还想补充一点。你提到了 IPO，Kirsten。我认为 Altman 很聪明，利用了 [OpenAI] 不会在近一两个月上市的优势。他甚至提出 2027 年上市的想法，且仅提交了保密申请，以便在准备好时拥有随时上市的选项。
因此，他有能力以 Anthropic 无法做到的方式谈论此话题。Anthropic 已与多家银行接洽，正朝着更近期的 IPO 迈进，在言论、表达方式及市场反应方面受到更多限制。