加州一项提议于周三通过州议会，迈出了实施全国首个强大AI模型安全标准的重要一步，尽管面临来自科技公司和加州众议院民主党领导人的强烈反对。
由旧金山州参议员斯科特·维纳（Scott Wiener）提出的《参议院第1047号法案》要求最大的AI模型在部署前进行安全测试认证，旨在保护人们免受潜在危险，如生物武器的创建。该法案在硅谷引起了巨大的分歧，一些重要人物如埃隆·马斯克支持这一措施，认为它可以帮助减轻对公众的潜在风险，而反对者如OpenAI则认为其要求会对开发者，尤其是小型初创公司造成过大的负担。
维纳还面临来自硅谷周边地区的国会议员的强烈反对。旧金山湾区的代表佐伊·洛夫格伦（Zoe Lofgren）和罗·卡纳（Ro Khanna）以及前众议院议长南希·佩洛西（Nancy Pelosi）表示反对，这对计划在佩洛西退休后竞选她席位的维纳来说是一次重大打击。维纳的密切盟友、旧金山市长伦敦·布里德（London Breed）也警告说，这项措施可能会破坏城市经济。
洛夫格伦、卡纳和佩洛西都建议加州应将AI监管留给联邦政府，但一个由两党组成的州立法者团体在周一表示，他们不能再等华盛顿的僵局有所突破。
洛杉矶地区的民主党议员阿尔·穆拉特苏奇（Al Muratsuchi）说：“如果我们不这么做，国会不会采取行动。”他指出，国会迄今未能采取行动，因此加州必须在AI监管的第一步中发挥领导作用。
洛夫格伦在周三投票前的采访中反驳了这一观点，她表示维纳和其他批评国会不作为的立法者“不了解情况。”
洛夫格伦说：“已经发生了很多事情，未来还会有更多。”
该法案在众议院以41票对9票通过，许多民主党人未参与投票，部分共和党人投出了关键的两票。
该法案现在将返回州参议院审议修正案，然后送交州长加文·纽森（Gavin Newsom）的办公桌。尽管这位科技友好的州长尚未公开对该法案发表意见，但他曾表示担心对本州科技行业过度监管，并面临来自硅谷的施压，要求他否决该法案。
维纳在众议院投票后告诉记者，他对这项“非常合理的促进创新和安全的立法”得到的多样支持感到感激，并预计纽森会认真考虑这项法案。
维纳说：“纽森是个高手，他习惯于面对施加在两边的巨大压力的艰难法案。他总是根据事实做出深思熟虑的决定。”
法案要求旨在确保企业在开发和部署AI模型时采取负责任的行动，以预防可能对公共安全和保安造成的风险。给企业施加的主要义务包括：
法案SB 1047在人工智能（AI）安全方面对企业，特别是那些开发和使用所谓的“受控模型”（covered models）的企业，提出了一系列要求。以下是对企业的主要要求：
1. 实施安全和保安协议：
- 企业在开始初步训练受控模型之前，必须实施书面的安全和保安协议，这些协议需要详细说明如何管理开发和运营受控模型及其衍生物的整个生命周期中的风险。
2. 具备完全关闭能力：
- 企业必须具备能够迅速执行完全关闭受控模型及其衍生物的能力。
3. 风险评估和测试：
- 在使用受控模型或其衍生物之前，企业必须评估是否可能造成或显著促成关键伤害，并记录测试结果。
4. 保留记录：
- 企业必须保留安全和保安协议的未编辑副本，并在受控模型商业化、公开或可预见的公开使用期间外加五年。
5. 年度审计：
- 自2026年1月1日起，企业每年必须聘请第三方审计师进行合规审计，并保留审计报告的未编辑副本。
6. 透明度和报告：
- 企业必须向总检察长提交合规声明，并在发生任何人工智能安全事故时及时报告。
7. 计算集群运营商的责任：
- 如果企业运营计算集群，它必须实施书面政策和程序，以评估客户是否打算使用计算资源训练受控模型。
8. 合规性和培训：
- 企业必须确保其员工和承包商了解并遵守安全和保安协议，并进行必要的培训。
9. 内部披露程序：
- 企业必须提供一个内部程序，允许员工匿名披露信息，如果他们相信企业违反了安全和保安协议或存在其他违法行为。
10. 举报人保护：
- 企业不得阻止员工向总检察长或劳工专员披露信息，也不得因员工披露信息而进行报复。
11. 遵守法规和行业最佳实践：
- 企业在履行其义务时，应考虑行业最佳实践和来自美国人工智能安全研究所、国家标准技术研究院、政府运营机构以及其他知名标准制定组织的适用指导。