我们何时才会认真对待那些宣扬AI末日论的人？
这是埃隆·马斯克试图关闭OpenAI营利性AI业务背后的关键潜台词。其律师辩称，该组织最初是作为专注于AI安全的慈善机构成立，却在追求利润中迷失方向。为证明这一点，他们引用了创始人早期的邮件和声明，强调需建立具有公共精神的制衡力量以对抗Google DeepMind。
庭审传唤了唯一就AI技术作证的专家——加州大学伯克利分校计算机科学教授斯图尔特·拉塞尔（Stuart Russell）。他深耕AI研究数十年，旨在提供技术背景并确立AI的危险性足以引发担忧。
拉塞尔曾签署2023年3月呼吁暂停AI研究六个月的公开信。颇具矛盾意味的是，尽管当时正推出自己的营利性AI实验室xAI，马斯克也签署了同一封信。
拉塞尔向陪审团及法官伊冯娜·冈萨雷斯·罗杰斯（Yvonne Gonzalez Rogers）指出，AI发展面临多重风险，包括网络安全威胁、目标错位问题以及通用人工智能（AGI）开发的“赢家通吃”性质。他认为，追求AGI与安全之间始终存在张力。
因OpenAI律师异议，法官限制了拉塞尔关于不受约束AI生存威胁的证词，使其未在法庭公开讨论。但拉塞尔长期批评全球前沿实验室竞相实现AGI引发的军备竞赛，并呼吁政府加强监管。
在交叉询问中，OpenAI律师致力于确认：拉塞尔并未直接评估该组织的公司结构或具体安全政策。
然而，记者、法官及陪审员仍需权衡在企业贪婪与AI安全关切之间应赋予多少价值。几乎每位OpenAI创始人都曾强烈警告AI风险，同时强调其益处；他们试图尽快构建AI，并策划了由其控制的营利性企业计划。
从外部看，一个明显问题是：OpenAI成立后逐渐意识到，成功仅靠更多计算资源支出是不够的，而这些资金只能来自营利性投资者。创始团队对AGI落入单一组织手中的恐惧促使他们寻求资本，这最终撕裂了团队，导致了如今的军备竞赛及这场诉讼。
同样的动态已在国家层面展开。参议员伯尼·桑德斯（Bernie Sanders）推动立法要求禁止数据中心建设，呼应了马斯克、山姆·阿尔特曼（Sam Altman）、杰弗里·辛顿（Geoffrey Hinton）等人的AI恐惧论。数据创新中心（Center for Data Innovation）的霍丹·奥马尔（Hodan Omaar）反对桑德斯仅引用恐惧而忽略希望，他表示：“目前尚不清楚公众为何应贬低科技亿万富翁的所有言论，除非这些言论能被用来填补脆弱论证中的空白。”
如今，案件双方都要求法院采取类似做法：认真对待阿尔特曼和马斯克论点中有价值的部分，同时淡化对其法律论证帮助较小的内容。
更正：本文已更新，修正了加州大学伯克利分校计算机科学教授斯图尔特·拉塞尔（Stuart Russell）的名字拼写。