过去一周，美国业界围绕AI安全发生的事情密集得有些反常。
美国AI安全之争从行业倡议走进法院
9月12日，Anthropic首席执行官达里奥·阿莫迪发表《我们必须控制前沿AI的速度》，提出“必须放慢提升AI模型能力的速度”。马斯克很快回应“Dario is right”，OpenAI首席执行官萨姆·奥尔特曼表示赞同，Google DeepMind的德米斯·哈萨比斯也认可这一方向。
阿莫迪希望把这一主张扩展到整个行业，由前沿AI企业建立共同的安全标准，并提出可以讨论对训练算力、训练方式以及内部使用AI改进AI等环节设置限制。
起诉状将这些公开表态以及此前的行业沟通列为所谓共同减速协议的重要依据。
两天后，黄仁勋在All-In Summit公开反对以AI末日风险为由推动整个行业共同减速。9月15日，他又在Salesforce Dreamforce进一步解释自己的立场：“安全是首要任务”，但“安全是一个工程问题”。一家企业如果对产品的功能、能力或者安全没有把握，就不要发布，可以停下来把问题解决以后继续向前；没有必要因此要求整个行业共同减速。
9月17日，英国王室也加入了这场AI安全讨论。英国国王查尔斯三世在苏格兰邓弗里斯宫召集英伟达、Google DeepMind、OpenAI、Anthropic等企业负责人讨论AI安全，讨论如何保持人类对AI的控制，并研究建立一套共同原则。黄仁勋也参加了这场会议。
一天之后，围绕AI减速的争议又演变成了一场反垄断诉讼。9月18日，四名ChatGPT、Claude、Grok和Gemini付费用户在美国加利福尼亚北区联邦法院提起拟议集体诉讼，将Anthropic、OpenAI、SpaceXAI和Google同时告上法庭。原告认为，美国几家最大的AI公司如果为了安全共同放慢AI发展速度，这种协调已经构成竞争对手之间限制创新的横向协议。
起诉状同时明确表示，原告同样重视AI风险，也赞成建立必要的安全护栏。每一家AI公司都可以自行放慢研发速度，可以增加测试，可以引入外部评估人员，可以设置自己的安全门槛，也可以寻求立法、监管或者反垄断豁免。原告提出异议的是竞争对手共同决定AI的发展速度。
AI巨头“共同减速”被指触碰美国反垄断法
这起诉讼援引的是美国《谢尔曼法》第1条。简单来说，这一条主要规制不同经营者通过合同、组合或者共谋限制竞争的行为。这起案件指控的是几家相互竞争的AI企业就研发速度、训练算力、模型能力或者产品改进节奏形成协议。起诉状据此把四家公司称为横向竞争者，并指控它们最迟从9月12日起形成了限制前沿AI产品研发和改进速度的协议。
美国反垄断法分析限制竞争行为，主要在“当然违法”与“合理原则”之间展开。对于反竞争效果较为明显、又不足以按照当然违法处理的行为，法院有时采用简化的“快速审查”，也就是缩短版的合理原则分析。
起诉状同时提出了当然违法、快速审查和合理原则三种主张。原告首先主张，几家主要竞争者共同降低创新和产品改进速度，属于对“产出和产品质量”的横向限制，应按照当然违法处理；如果法院不接受这一主张，原告又请求按照快速审查分析；再退一步，则按照合理原则审查，并主张四家公司具有较强的市场力量，共同减速会造成创新放缓、产品质量下降、投资和竞争投入减少。
在原告的论证中，AI模型的改进速度本身也属于“产出”和竞争的一部分。消费者每个月为ChatGPT、Claude、Grok或者Gemini付费，其中一项重要价值就是持续获得模型和功能更新，包括推理、编程、研究、多模态、智能体、上下文和其他能力。按照起诉状的主张，几家公司共同降低产品改进速度，会使消费者以相同甚至更高的价格获得较少的产品改进，从而形成反垄断法意义上的损害。
四名付费用户也据此主张自身遭受了反垄断法意义上的损害。起诉状依据美国《克莱顿法》第4条请求三倍损害赔偿，并依据第16条请求禁令救济，希望法院制止被指控的共同减速安排。协议能否成立、相关公开表态是否构成反垄断法意义上的协议、消费者损失能否量化，都有待后续诉讼程序解决。目前这些内容仍属于原告的诉讼主张。
美国AI安全之争越来越像《三体》
写到这里，这场AI安全争论让我想到《三体》。
《三体》里的地球三体组织后来分成了降临派、拯救派和幸存派。三派面对三体文明，选择了完全不同的道路。现实中的AI争论与《三体》中的派别无法一一对应，却呈现出一些相似的分歧。
降临派相信现有人类文明已经出了根本问题，甚至欢迎一种更高力量来改造乃至取代它。放到今天的AI讨论中，与之最接近的是围绕“后人类智能”形成的一部分思潮。
Emerj人工智能研究机构创始人丹尼尔·法格拉提出过“Worthy Successor”，即创造一种能力和道德价值都超过人类的后人类智能，并在达到相应条件后由这种智能接过未来发展的主导权。法格拉同时长期讨论如何防范AGI风险，因此这种类比主要体现在对人类最终让渡主导地位的接受，并不意味着他期待人类毁灭。
拯救派不希望人类毁灭。他们相信三体文明更加先进，希望借助它改造人类社会。
这与今天一部分AI安全派颇为相似。他们高度评价AI可能带来的巨大价值，同时认为它的力量已经强大到需要建立共同规则、共同门槛和共同安全机制。Anthropic目前的不少主张带有这种色彩：AI可以继续发展，但不能继续按照现有竞争速度一路跑下去。
幸存派则现实得多。他们不太关心宏大的文明理想，更在意三体人到来以后自己和后代的生存。放到今天的AI产业中，可以类比那些首先考虑企业竞争、商业利益、算力、市场份额和国家竞争力的观点。
黄仁勋的思路更接近这种现实主义。他今年7月接受Axios采访时称，AI会终结人类、摧毁美国一半就业的说法都是“complete nonsense”。到了9月14日的All-In Summit，他又称不少AI末日预测缺乏科学和研究依据。
但《三体》中的三派与现实中的AI治理之间存在一个根本区别。小说里的三个派别面对的是一个已经存在、正在飞来、无法协商的外星文明。三体舰队已经出发，人类无法左右它的到来，也无法改变三体文明本身的发展方向。所有分歧都建立在“对方已经在路上”这一既成事实之上，人类只能选择不同的应对方式。
AI由人类自己训练，使用人类设计和制造的芯片，运行在人类建设和管理的数据中心里。模型训练的延续与终止、算力投入规模、模型发布时间和安全门槛，目前仍然掌握在人类手中。企业可以根据自身情况调整研发和发布节奏。
至于适用于整个行业的共同标准，有些来自企业之间的协调，有些则来自既有法律和公共治理机制。技术路径仍然掌握在人类手中，AI安全争论也因此涉及企业自律、行业协调和公共治理几种不同路径。
小说中的人类无权改变三体文明的发展，今天参与AI治理的企业和公共机构，本身却是技术发展的参与者和规则制定者。《三体》的三个派别可以帮助理解人们面对强大新技术时不同的心理和选择，现实中的AI治理则多出了一项关键内容：AI发展速度决定权的归属。
Anthropic的行业协调面临反垄断边界
Anthropic CEO阿莫迪主张由前沿AI企业建立共同约束机制。一家企业如果单独减速，很可能被继续加速的竞争对手超过。因此，仅靠企业自觉很难解决AI竞赛中的“囚徒困境”。按照阿莫迪的设想，几家前沿AI企业应当接受共同规则，模型达到某些能力节点后完成相应安全认证，再继续推进。
阿莫迪甚至承认，其中某些行业安全讨论可能需要政府提供有限的反垄断豁免。与此同时，他又认为美国政府立法可能来不及，因此企业应该先开展自愿合作。而这也成为起诉状指控横向协调的重要依据。
起诉状还特别援引了阿莫迪的一句话：阿莫迪认为共同控制AI发展速度，可以让参与企业在“不会牺牲商业优势”的情况下放慢速度。按照AI安全逻辑，共同减速可以避免单家企业因减速而失去竞争优势。
原告恰恰从这里提出反垄断质疑。在原告看来，用行业协调消除单家企业减速所承担的竞争代价，可能构成对竞争的限制。Anthropic希望借助共同规则解决AI竞赛中的“囚徒困境”，原告质疑的则是竞争者自行建立这种行业协调机制。
值得注意的是，美国反垄断执法部门目前也没有把AI安全合作本身认定为限制竞争。9月17日，美国司法部反垄断部门官员斯坦利·伍德沃德表示，围绕网络安全和安全问题展开协调，在他看来并不具有反竞争性；美国联邦贸易委员会主席安德鲁·弗格森则对大型AI企业寻求反垄断豁免表示警惕。
结语
黄仁勋把AI安全放在工程和产品责任的框架里。一家公司发现自己的模型还有严重风险，完全可以继续测试，问题没有解决就晚一点发布，由此错过市场窗口或者承担竞争压力，也是企业作出安全选择所伴随的成本。不能因为单家企业不愿承受这种成本，就顺势推导出几家主要竞争者应该共同把整个行业的速度降下来。
超出单家企业范围的重大公共风险，则可以由现行法律和公共治理机制处理。起诉状划出的边界其实也与此相近：企业可以因为自己的安全判断推迟产品，适用于整个行业的规则则由公共治理机制依法处理；竞争对手如果自行协调发展节奏，就要面对反垄断法问题。
更有意思的是，四名付费用户没有从AI伦理或者技术安全另起炉灶，而是把这场关于AI发展速度的争论塞进了美国反垄断法的框架里。用一部一百多年前制定的《谢尔曼法》，去处理今天最前沿AI企业之间的“共同减速”，这个切入角度确实有些巧妙，不知道他们的这个想法是否来源于AI？