包括埃隆·马斯克、史蒂夫·沃兹尼亚克以及人文科技中心（Center for Humane Technology）的特里斯坦·哈里斯在内的1,100多名签署人，于周二晚间在网上发布了一封公开信，呼吁“所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月”。
信中写道：
当代人工智能系统在通用任务上正变得与人类相当[3]，我们必须扪心自问：我们是否应该让机器用宣传和虚假信息淹没我们的信息渠道？我们是否应该自动化取代所有工作，包括那些令人满足的工作？我们是否要发展出最终可能在数量、智慧、淘汰和替代方面超越人类的非人类心智？我们是否要冒失去对文明控制权的风险？这些决定不应委托给未经选举的技术领袖。只有在确信其影响将是积极的且风险可控时，才应开发强大的人工智能系统。
该信认为，目前缺乏应有的“规划和管理水平”。相反，在过去几个月里，一些未具名的“人工智能实验室”陷入了一场失控的竞赛，竞相开发和部署越来越强大的数字心智，以至于没有人——甚至它们的创造者——能够理解、预测或可靠地控制它们。
信的签署人中有一些是人工智能专家，他们认为所要求的暂停应当“公开且可验证，并涵盖所有关键参与者”。如果无法迅速实施该暂停，“政府应介入并实施禁令”，信中称。
这封信之所以引人关注，不仅因为签署者包括来自Meta和Google的一些工程师、Stability AI创始人兼首席执行官Emad Mostaque以及非科技行业人士（如一名自称电工的人和一个美容师），还因为未签署者同样值得关注。例如，大型语言模型GPT-4背后的OpenAI没有任何人签署此信。同样未签署的还有Anthropic，其团队从OpenAI分裂出来以构建一个“更安全”的人工智能聊天机器人。
周三，OpenAI首席执行官Sam Altman接受《华尔街日报》采访时表示，OpenAI尚未开始训练GPT-5。Altman还指出，该公司长期以来在开发中优先考虑安全性，并在GPT-4发布前花了超过六个月进行安全测试。他对《华尔街日报》表示：“在某种意义上，这是在对choir布道。”“我认为，我们一直在最响亮、最激烈地讨论这些问题，而且时间最长。”
事实上，Altman今年一月接受了本编辑的采访，他辩称，“现在（相对风险较低时）启动这些[产品发布]是合理的，而不是等到几年后整个行业都推出产品时再发布，那时社会将没有时间进行更新。”
最近，Altman与计算机科学家兼知名播客主持人Lex Fridman会面，并谈及他与Musk的关系。Musk曾是OpenAI的联合创始人，但因利益冲突于2018年离开该组织。（Semafor的最新报道指出，Musk是在其担任OpenAI领导人的提议被包括Altman在内的其他联合创始人拒绝后离开的，Altman于2019年初接任首席执行官一职。）
鉴于Musk多年来一直谈论人工智能安全，并且最近特别针对OpenAI提出批评，暗示该公司只说不做，因此他成为这封公开信签署者的可能性并不令人意外。Fridman向Altman询问了Musk近期频繁发推抨击该组织的情况。Altman表示：“Elon显然目前在Twitter上通过多个渠道攻击我们，我表示理解，因为他——完全可以理解地——对AGI安全深感焦虑。我相信可能还有其他动机，但这确实是其中之一。”
不过，Altman补充说，他认为马斯克的一些行为令人受伤。“我确实一直把埃隆当作我的英雄。你知道，尽管他在推特上表现得像个混蛋之类的，我很高兴世界上有他这样的人存在。但我希望他能更多地关注我们为正确实现这一切所付出的艰苦努力。”
我们仍在消化这封信（其他人已经开始将其批得体无完肤）。