Anthropic已秘密向美国国会议员提交了一份AI安全监管法案草案，试图在政府制定相关法规前主动引导行业规范。该公司发言人称，该法案基于其今年6月提出的《高级人工智能框架》，旨在推动国会采取合理行动。
根据草案规定，政府仅在模型存在“可预见的紧迫风险”时才有权禁止其发布或使用，且该风险需满足以下严格条件：可能造成超过10亿美元的经济损失，或导致50人以上死亡或重伤。此外，此类风险必须源于生物武器研发与释放、系统绕过开发者管控或网络攻击。该法案条款借鉴了加州SB 53号法案的相关内容。