加州参议员斯科特·维纳（Scott Wiener）周三提出新的修正案，对其最新法案SB 53进行修订。该法案将要求全球最大的人工智能公司发布安全与安保协议，并在发生安全事故时提交报告。
若签署成为法律，加州将成为首个对领先AI开发商施加实质性透明度要求的州，相关开发商可能包括OpenAI、Google、Anthropic和xAI等。
维纳参议员此前关于人工智能的法案SB 1047曾包含类似的安全报告要求，但遭硅谷激烈反对并被加文·纽森（Gavin Newsom）州长否决。随后，纽森州长呼吁由斯坦福大学顶尖研究员兼World Labs联合创始人李飞飞（Fei-Fei Li）等AI领袖组成政策小组，为该州人工智能安全工作设定目标。
加州人工智能政策小组近期发布的最终建议中，引用了“需行业发布系统信息”的要求，以建立“强大且透明的证据环境”。维纳参议员办公室在新闻稿中表示，SB 53的修正案深受此报告影响。
“该法案仍在不断完善中，我期待在未来几周与各利益相关方合作，将此提案完善为最科学、最公平的法律。”维纳参议员在声明中表示。
SB 53旨在实现一种平衡，即在不阻碍加州人工智能产业快速增长的前提下，为最大的AI开发商制定有意义的透明度要求——这也是纽森州长认为SB 1047未能达成的目标。
非营利人工智能安全组织Encode州事务副总裁Nathan Calvin在接受TechCrunch采访时指出：“这些担忧是我所在组织及其他机构已讨论一段时间的问题。让企业向公众和政府解释其应对风险的措施，是最基本且合理的步骤。”
该法案还为认为公司技术对社会构成“重大风险”的AI实验室员工提供吹哨人保护。法案将此类风险定义为导致超过100人死亡或受伤，或造成超过10亿美元损失的行为。
此外，该法案计划创建CalCompute公共云计算集群，以支持开发大规模人工智能的初创企业和研究人员。
与SB 1047不同，维纳参议员的新法案未要求AI模型开发者对模型造成的危害承担责任。SB 53的设计初衷也不对微调领先AI模型或使用开源模型的初创企业及研究人员造成负担。
随着新修正案通过，SB 53现已提交至加州众议院隐私和消费者保护委员会审批。若获通过，还需经其他立法机构批准，方可送达纽森州长签署。
在大洋彼岸，纽约州州长Kathy Hochul正考虑一项类似的人工智能安全法案RAISE Act，该法案同样要求大型AI开发商发布安全和保障报告。
此类州级AI法律的命运曾一度岌岌可危，因联邦立法者曾提议对州级AI监管实施为期10年的暂停期，以避免企业面临“碎片化”的法律格局。然而，该提案于7月初在参议院以99比1的投票结果失败。
前Y Combinator总裁Geoff Ralston在向TechCrunch发表的声明中表示：“确保AI安全开发不应存在争议，它应是基础性的。国会应发挥领导作用，要求构建前沿模型的公司保持透明度和问责制。但在缺乏严肃联邦行动的情况下，各州必须挺身而出。加州SB 53是深思熟虑、结构良好的州级领导力典范。”
迄今为止，立法者尚未成功让人工智能公司接受州强制规定的透明度要求。Anthropic广泛支持增加AI公司透明度，并对加州AI政策小组的建议表示适度乐观；但OpenAI、Google和Meta等公司对这类举措仍持抵制态度。
领先的AI模型开发者通常会发布安全报告，但近几个月做法趋于不一致。例如，Google决定不为其最新AI模型Gemini 2.5 Pro发布安全报告，直至上线数月后才补发；OpenAI也未为GPT-4.1模型发布安全报告。后续第三方研究指出，该模型的对齐程度可能不如前代产品。
作为此前AI安全法案的温和版本，SB 53仍可能迫使AI公司披露更多信息。目前，各方正密切关注维纳参议员再次试探监管界限的进展。