在个人博客上，OpenAI CEO Sam Altman 表示，他认为 OpenAI “知道如何构建 [通用人工智能]”，正如该公司传统上所理解的那样，并且开始将目标转向“超级智能”。
“我们热爱当前的产品，但我们是为了辉煌的未来而来，”Altman 在帖子中写道。“超级智能工具可以极大地加速科学发现和创新，远远超出我们自身的能力，从而大幅增加财富和繁荣。”
Altman 此前曾表示，超级智能可能在“几千天”内到来，且其到来将“比人们想象的更为剧烈”。
AGI，即通用人工智能，是一个模糊的术语，但 OpenAI 有自己的定义：“高度自主的系统，在经济价值最高的工作中表现优于人类。”OpenAI 及其紧密合作伙伴兼投资者 Microsoft，也对 AGI 有各自的定义：能够产生至少 1000 亿美元利润的 AI 系统。根据两家公司之间的协议，当 OpenAI 实现这一目标时，Microsoft 将失去对其技术的访问权限。
那么 Altman 指的是哪种定义呢？他没有具体说明，但前者似乎更有可能。Altman 写道，他认为 AI 代理（AI智能体）——能够自主执行某些任务的 AI 系统——可能会以某种方式“加入劳动力市场”，并在今年“实质性地改变公司的产出”。
“我们继续相信，迭代地将强大的工具交到人们手中，会带来伟大且广泛分布的成果，”他写道。
这是可能的，但同样真实的是，当今的AI技术存在显著局限。它会产生幻觉；它会犯出任何人类都能轻易察觉的错误；而且成本可能非常高昂。
Altman似乎对这一切都能被克服——并且很快——充满信心。然而，如果过去几年关于AI的经验告诉我们什么的话，那就是时间表可能会发生变化。
“我们相当有信心，在未来几年里，每个人都会看到我们所看到的景象，而尽管仍需最大化广泛的利益和赋权，但以极大的谨慎行事的重要性至关重要，”Altman写道。“鉴于我们工作的可能性，OpenAI不能是一家普通的公司。能够在这项工作中发挥作用，是多么幸运且令人谦卑的事情。”
人们希望，随着OpenAI将其关注点转向其认为的超级智能，该公司会投入足够的资源来确保超级智能系统安全地运行。
OpenAI已经多次提到，成功过渡到一个拥有超级智能的世界“远非保证”，并且他们并没有所有答案。“[W]e don’t have a solution for steering or controlling a potentially superintelligent AI, and preventing it from going rogue,” the company wrote in a blog post dated July 2023. “[H]umans won’t be able to reliably supervise AI systems much smarter than us, and so our current alignment techniques will not scale to superintelligence.”
然而，自那篇文章发布以来，OpenAI已经解散了专注于人工智能安全的团队，包括超级智能系统安全，并目睹了几位有影响力的安全研究人员离职。其中几位员工指出 OpenAI日益增长的商业野心是他们离职的原因。该公司目前正进行企业重组，以使其对外部投资者更具吸引力。
在最近的一次采访中，当被问及那些认为OpenAI在安全方面关注不够的批评者时，Altman回应道，“我会提到我们的记录。”