埃隆·马斯克（Elon Musk）试图瓦解 OpenAI 的法律努力，可能取决于其营利性子公司在多大程度上增强或削弱了该前沿实验室的创始使命——确保人类从通用人工智能中受益。
周四，加州奥克兰的一家联邦法院聆听了前员工兼董事会成员的说法，该公司将 AI 产品推向市场的努力损害了其对人 AI 安全的承诺。
安全团队解散与组织转型
Rosie Campbell于2021年加入公司的AGI准备团队，并在该团队解散后的2024年离开OpenAI。另一个专注于安全的团队——超级对齐（Super Alignment）团队也在同一时期被关闭。
“我加入时，公司非常注重研究，人们经常讨论 AGI 和安全问题，”她作证说。“随着时间的推移，它变得更像是一个以产品为导向的组织。”
在交叉询问中，坎贝尔（Campbell）承认，为实验室实现构建 AGI 的目标，大量资金可能是必要的，但她表示，在没有适当安全措施的情况下创建超级智能计算机模型，不符合她最初加入的组织的使命。
坎贝尔指出了一起事件：微软通过其 Bing 搜索引擎在印度部署了公司的 GPT-4 模型的一个版本，而该模型此前未经公司部署安全委员会（DSB）评估。她说，该模型本身并不构成巨大风险，但公司需要“在技术越来越强大的情况下树立强有力的先例。我们希望建立可靠执行的良好安全流程。”
OpenAI 的律师也让坎贝尔承认，在她的“推测性意见”中，OpenAI 的安全方法优于 xAI 的安全方法，xAI 是马斯克创立的人工智能公司，今年早些时候被 SpaceX 收购。
OpenAI公开其模型评估结果并分享安全框架，但该公司拒绝评论其当前对AGI对齐的方法。其现任准备负责人Dylan Scandinaro于今年二月从Anthropic入职。Altman 表示，此次招聘将让他“今晚睡得更安稳”。
治理危机与奥特曼解雇风波
然而，GPT-4 在印度的部署是导致 OpenAI 非营利董事会在 2023 年短暂解雇首席执行官萨姆·奥特曼（Sam Altman）的红旗之一。该事件发生在包括时任首席科学家伊利亚·苏茨克弗（Ilya Sutskever）和时任首席技术官米拉·穆拉蒂（Mira Murati）在内的员工抱怨奥特曼回避冲突的管理风格之后。当时的董事会成员塔莎·麦考利（Tasha McCauley）作证称，她担心奥特曼对董事会不够坦诚，导致其独特的治理结构无法有效运作。
McCauley还讨论了一个被广泛报道的模式，即Altman误导董事会。值得注意的是，Altman向另一位董事会成员撒谎，称McCauley有意解雇第三位董事会成员Helen Toner，后者发表了一篇白皮书，其中隐含了对OpenAI安全政策的批评。Altman还未能告知董事会关于公开发布ChatGPT的决定，且董事会成员对他未披露潜在利益冲突感到担忧。
“我们是一个非营利董事会，我们的职责是监督旗下的营利性实体，”麦考利告诉法庭。“我们履行这一职责的主要方式受到了质疑。我们完全缺乏足够的信心去信任所传达的信息能够让我们做出明智的决策。”
然而，解雇奥特曼的决定与向公司员工发出的要约同时发生。麦考利表示，当 OpenAI 的员工开始支持奥特曼，且微软努力恢复现状时，董事会最终改变了立场，反对奥特曼的成员辞职。
专家证言与监管呼吁
非营利董事会似乎未能影响营利性组织，这直接指向了马斯克的论点：OpenAI 从一个研究机构转变为世界上最大的私营公司之一的过程，破坏了其创始人的隐性协议。
哥伦比亚法学院前院长大卫·席策（David Schizer）正受马斯克团队聘请担任专家证人，他重申了麦考利（McCauley）的担忧。
“OpenAI强调，其使命的关键部分在于安全，并且会将安全置于利润之上，”席策表示。“其中一部分是认真对待安全规则：如果某事需要接受安全审查，就必须进行。关键在于程序问题。”
鉴于人工智能已深深嵌入营利性企业，这一问题远不止于单一实验室。麦考利指出，OpenAI内部治理的失败应成为推动加强对先进人工智能政府监管的理由——“[如果]所有决策都取决于一位首席执行官，而公共利益又处于风险之中，这是非常次优的选择。”