OpenAI，ChatGPT的开发者，担心在本十年内会出现比人类更聪明且无法控制的AI。
《黑客帝国》中的机器、《终结者》中的天网，以及恐怖经典《异形》中的Mother——能够奴役或控制人类的智能是流行文化中的一个常见主题。人们确信这些只是科幻情节，因此一直能安心享受观影乐趣。但如果按照ChatGPT背后的开发者OpenAI的说法，我们显然需要警惕，这样的反乌托邦情景可能比我们想象的更接近现实。OpenAI在一篇博客文章中宣布将投入大量资源研究人工智能的安全性。
OpenAI联合创始人Ilya Sutskever和负责未来导向部门的Jan Leike在博客文章中警告称：“目前我们没有任何方法可以控制潜在超级智能，并防止其自行其是。”“超级智能的巨大力量”不仅可能导致权力丧失，甚至可能引发人类灭绝。
本十年内
在此，该公司并未谈论遥远的未来。超级智能人工智能系统——即比人类更智能的系统——可能在本十年内成为现实。为了控制超级智能AI，需要比目前提供的更好的技术。因此，作为OpenAI投资者的微软将在未来四年使用其20%的计算能力来研究解决方案。此外，还将组建一个专门的研究团队，即“超级对齐团队”。
对人工智能权力过大的警告并非新鲜事。今年3月，知名科技专家发布了一封公开信，迅速获得了数千人的签名，信中他们呼吁暂停人工智能的发展，因为相关系统“可能对社会和人类构成深远风险”。
欧洲议会最近通过了一项人工智能法规，旨在规范人工智能的使用和开发。此举引发了来自企业界的批评，他们认为过于严格的监管会成为竞争劣势。与此同时，谷歌近日也警告其员工要警惕生成式人工智能，正如该公司自身正在开发的Bard一样。