OpenAI首席执行官山姆·阿尔特曼将离开公司5月成立的内部委员会。该委员会负责监督与公司项目及相关运营有关的“关键”安全决策。
在博客文章中，OpenAI今日宣布，该委员会——安全与保障委员会——将成为一个由卡内基梅隆大学教授Zico Kolter主持的“独立”董事会监督小组。成员包括Quora首席执行官Adam D’Angelo、美国陆军退役将军Paul Nakasone以及前索尼执行副总裁Nicole Seligman，他们目前均为OpenAI董事会成员。
OpenAI指出，该委员会已对最新AI模型o1进行了安全审查，此前阿尔特曼已辞去相关职务。该公司表示，小组将继续接收安全和保障团队的定期简报，并保留在安全问题解决前推迟发布的权力。
“作为工作的一部分，安全与保障委员会将继续收到关于当前和未来模型的技术评估报告，以及持续发布后监控的报告，”OpenAI写道，“我们正在完善模型发布流程和实践，以建立集成的安全和保障框架，并为模型发布设定明确的成功标准。”
阿尔特曼离职之际，正值五名美国参议员就OpenAI政策提出质疑。曾经专注于AI长期风险的一半以上员工已经离开，前研究人员指责阿尔特曼反对“真正的”AI监管，转而支持推进企业目标的政策。
对此，OpenAI大幅增加了联邦游说支出，2024年上半年预算达80万美元，而去年全年仅为26万美元。今年早些时候，阿尔特曼还加入了美国国土安全部的人工智能安全与安保委员会，为人工智能在美国关键基础设施中的开发和应用提供建议。
即便阿尔特曼被移除，也几乎没有迹象表明安全与安保委员会会做出严重影响商业路线图的艰难决定。值得注意的是，OpenAI曾表示将在5月通过该委员会解决对其工作的“有效批评”，当然，“有效批评”取决于观察者的看法。
在发表于《经济学人》的文章中，前OpenAI董事会成员海伦·托纳（Helen Toner）和塔莎·麦考利（Tasha McCauley）表示，如今的OpenAI无法被信任去自我问责。她们写道：“基于我们的经验，我们相信自我治理在利润激励的压力下难以可靠地维持。”
而且，OpenAI的利润激励正在增长。
据传，该公司正处于筹集65亿美元以上的融资轮次中，估值将超过1500亿美元。为促成交易，据报道OpenAI可能会放弃其混合非营利公司结构。该结构旨在限制投资者回报，部分原因是为了确保公司与创始使命保持一致：开发“造福全人类”的人工通用智能。