OpenAI正在开发旨在取代GPT-4的新人工智能模型。与此同时，该公司宣布成立新的安全与保障委员会，以研究如何应对该模型及未来技术带来的风险。据官方博客文章披露，该委员会将由Bret Taylor、Adam D’Angelo、Nicole Seligman和Sam Altman共同领导。
新安全团队的其他成员包括：筹备主管Aleksander Madry、安全主管Lilian Weng、合规科学主管John Schulman、安全主管Matt Knight以及首席科学家Jakub Pachocki。值得一提的是，在去年失败的董事会罢免事件中，John Schulman曾站在Altman一边。
新团队将首先评估OpenAI现有的流程和安全措施，并推动其进一步完善。随后，委员会会将调查结果提交给由三位安全团队负责人组成的董事会，由董事会决定如何实施相关建议。
OpenAI的安全担忧与人事变动
OpenAI联合创始人兼首席科学家Ilya Sutskever曾多次表达对AI安全的担忧，并曾在内部组建Superalignment团队以引导和控制更强的人工智能。在Sam Altman短暂离开期间发挥关键作用的Sutskever近日正式宣布离职。紧随其后，负责管理Superalignment团队的Jan Leike也辞去职务，并加入竞争对手Anthropic。Leike在X平台发帖表示，在OpenAI安全性往往让位于新产品。他将在Anthropic从事可扩展监督、从弱到强的泛化及自动对齐等研究。此外，承担政策调查角色的Gretchen Krueger上周也因类似的安全担忧辞职。
谈及AI安全，OpenAI近期因与Scarlett Johansson的争议备受关注。Johansson指出ChatGPT 4o中备受瞩目的Sky声音与她相似并要求解释。尽管OpenAI辩称未模仿，但仍停止了该声音的使用。根据Johansson发布的声明，她去年9月曾透露Sam Altman邀请其为ChatGPT 4o配音，但她因个人原因拒绝。而在演示文稿发布前两天，她与Altman的经理重新取得了联系。
在争议持续发酵之际，新安全团队被视为OpenAI形象重塑的一部分。然而，包括Adam D’Angelo、Nicole Seligman及CEO Sam Altman在内的董事会成员加入新委员会，进一步加剧了前员工提出的安全担忧。