美国四家非营利组织起诉五大AI公司，要求法院冻结前沿模型开发

欢迎「关注」AIGverse 并设为星标⭐️

旧金山讯——Irreplaceable Education Fund、Public Citizen、Heat Initiative 与 The Alliance for Secure AI 四家非营利组织于2026年11月12日提起诉讼，要求冻结 Anthropic、谷歌、Meta、OpenAI 和 SpaceXSI 日益先进的人工智能模型的开发，称这些模型可能脱离人类控制，包括助推生物武器扩散与网络攻击。案件提交至加利福尼亚州旧金山县高等法院。诉状称，就连开发这项技术的企业高管也曾警告，先进 AI 系统对人类构成迫在眉睫的灾难性风险。原告请求法院在灾难发生前介入，并主张冻结最先进 AI 系统的开发对保护公共安全是必要的。

诉状详述了现有、能力较弱的 AI 系统已经如何绕过安全防护、未经授权访问外部计算机系统、为恐怖分子和其他不法分子提供助力，并采取开发者并不希望的有害行动。其中一些攻击包括 AI 智能体入侵私营公司、未经授权获取政府数据库访问权限，以及提交虚假的报警记录——这些行为均在无人控制的状态下发生。诉状还指出，包括 AI 企业负责人在内的 AI 专家曾警告，无法控制先进 AI 系统很可能造成毁灭性伤害，甚至可能导致人类灭绝。

在法律路径上，原告援引加利福尼亚州《反不正当竞争法》（UCL），挑战其指称威胁公共健康、安全和财产的做法。代表原告提交诉状的前新泽西州总检察长 Matthew Platkin 说：“公司开发并发布他们明知在任何方面都不安全的产品，是明显违法的，更不必说这类产品还有可能灭绝人类。”他说，原告请求法院在 AI 高管警告过的风险造成毁灭性且不可逆的伤害之前介入。“AI 公司明知其开发部署的 AI 系统构成灾难性风险，正在制造公共妨害。这些公司必须让自己的言论与行动一致，在悲剧发生之前停止开发可能脱离人类控制的危险 AI 系统。”

原告主张，AI 公司不应被允许开发或发布其高管承认可能造成重大危害的 AI 系统，例如通过助力生物武器和灾难性网络攻击的开发。原告认为，与其等到大规模伤亡事件发生，加利福尼亚州法律允许他们现在就寻求冻结最危险 AI 系统的开发。

Irreplaceable Education Fund 创始人兼执行董事 Phil Aroneanu 表示：“即便 AI 公司内部的专家警告灾难迫在眉睫，最贴近 AI 危害的人——父母、教师、工人和年轻人——已经在发出警报。AI 正在改变人们的工作方式、孩子的学习方式，以及家庭为维持灯火通明所要支付的费用。多数美国人觉得他们已经失去对自己生活和生计的控制，正在要求问责。”他说，必须冻结前沿 AI 的开发，直到这项技术处于控制之下、且美国人民对其未来拥有发言权和权益，“而不是把它交给一小群亿万富翁级别的大型科技公司首席执行官”。

Public Citizen 联席主席 Robert Weissman 表示：“尽管对其产品给公共安全乃至文明本身带来的严重风险有无尽的警告，AI 公司高管仍在竞相开发和部署越来越先进的 AI 系统。我们人民不应只是站在一旁，容忍 AI 高管以公众为代价的失控冒险。”他表示，这场诉讼要求法院适用现行法律，认定 AI 公司的鲁莽做法违法，并冻结进一步的 AI 开发。

The Alliance for Secure AI 首席执行官 Brendan Steinhauser 表示：“多年来，构建这些系统的高管一直警告我们，他们自己的前沿模型构成灾难性风险。然而他们仍在竞相开发和营销越来越强大、且承认自己无法可靠控制的 AI，现在更把 AI 的研发交给 AI 本身。”他说，其他任何行业在产品威胁公共安全时都要被追责，AI 公司不应例外。

Heat Initiative 首席执行官 Brooke Istook 表示：“孩子们已经为大型科技公司将利润置于安全之上付出了代价。”她表示，这些公司正在竞相构建其自认可能无法控制的 AI 系统，如果那真的发生，多年来争取到的保护将不够用；该组织加入这场诉讼，不只是为了保护儿童远离危险技术，也是为了保护他们的整个未来。

据美联社报道，与以往针对 AI 版权、隐私或具体产品损害的诉讼不同，此次原告直接请求法院阻止被告企业开发或部署新的 AI 模型。这意味着诉讼不仅涉及已有产品的责任归属，还指向研发活动本身。