当地时间9月11日,美国众议员萨姆·利卡多、乔治·怀特塞兹和洛里·特拉汉联名致信众议院议长迈克·约翰逊,要求立即召回众议院,推动美国国会就先进人工智能可能带来的安全风险采取行动。
实际上,三名联署议员全部来自民主党,并且都与Anthropic存在较多政策联系。
今年3月,利卡多拟提出《国防生产法》修正案,限制美国联邦机构因AI企业坚持安全限制而采取报复性措施;6月又与其他议员致信美国商务部,要求解释对Anthropic两款Claude模型设置出口许可要求的依据。
怀特塞兹2月致信美国防部长赫格塞斯,反对要求Anthropic取消涉及自主军事目标选择和美国国内监控的安全限制;4月Anthropic被认定为“供应链风险”后,他又要求国防部重新与该公司接触。
特拉汉则长期推动前沿AI监管,7月与共和党议员共同提出《FRONTIER法案》,要求大型前沿AI开发商建立风险管理框架、接受独立审计并报告重大安全事件。
三名议员在此次信中称,先进人工智能可能带来的风险包括AI智能体失配或目标偏离、大规模网络安全事件,以及AI被用于开发生物或化学武器等。三人表示美国国会议员对于具体采取何种监管方式可以存在不同意见,但美国国会应当就相关问题采取行动。
为支持这一主张,信中列举了近期多起事件。例如OpenAI在网络安全评估中发现,模型生成的AI智能体能够绕过互联网隔离控制,利用漏洞攻击第三方系统并修改活动证据;1300多名前沿AI企业员工呼吁美国政府支持建立国际机制,有意控制前沿AI自动化发展的速度;Anthropic则披露,有研究人员使用Claude开展可能有助于生物武器开发的生物研究。
信中还援引Anthropic披露的案例称,与中国相关的行为者曾利用Claude开展监控和跨国镇压,与伊朗相关的行为者则曾将其用于宣传、大规模监控以及针对美国海军力量提出目标建议。
中国AI企业的模型蒸馏问题也被写入信中。三名议员援引美国网络安全和基础设施安全局(CISA)的说法称,中国开放权重模型正通过对美国模型进行所谓的“工业规模”蒸馏提高能力,由此产生的AI智能体能力已接近美国顶级前沿模型,同时不受美国政府及相关安全措施约束。
在具体措施方面,三名议员称,已有其他议员提出一系列方案,包括提高前沿模型透明度、建立模型评估要求、设置所谓“终止开关”要求,以及豁免反垄断法,使AI企业能够围绕AI安全开展行业合作。三人主张,美国国会应当对这些方案进行讨论、修改并采取行动。
三名议员批评众议院在8月休会后,又安排9月底和整个10月休会;此前恢复开会的一周内,众议院还将部分时间用于讨论和表决反社会主义等政治性决议。他们要求众议院立即返回华盛顿,并继续开会,直至国会推动具有两党支持基础的AI安全措施。
从内容上看,这封信延续了三名议员此前推动前沿AI安全监管的政策立场。尤其是利卡多和怀特塞兹,此前已经在Anthropic与特朗普政府的争议中公开介入,此次信件又多次引用Anthropic披露的生物安全、监控和模型滥用案例。Anthropic既是信中AI安全风险材料的重要来源,也是前两名联署议员此前政策行动所涉及的企业。

