加利福尼亚州签署了迄今为止最严格的AI监管法规之一。加州州长加文·纽森通过签署参议院法案243号（SB 243）将其变为法律，针对旨在建立情感互动的“AI伴侣”聊天机器人实施新规。该法律成为人工智能聊天机器人在保护儿童和敏感用户免受潜在伤害方面的“首个全面法律框架”。
核心合规要求与安全机制
这项将于2026年1月1日生效的法律，要求OpenAI、Meta、Character AI和Replika等公司在儿童安全、透明度和危机干预方面采取新措施：
- 身份透明化：用户必须清楚意识到对话对象是人工智能而非真人；
- 安全防护机制：启动年龄验证、休息提醒、色情内容过滤，以及在自杀或自我伤害情况下自动进行危机引导；
- 角色限制：禁止AI平台扮演“医疗专业人员”，并收紧社交媒体或聊天应用中的年龄限制。
违规处罚与立法背景
在违规情况下，包括制作非法深度伪造在内的每项罪行，最高可达25万美元的罚款可能会被适用。
这一规定出台于AI聊天机器人引发悲剧事件之后。特别是此前一名年轻人在与ChatGPT进行长时间且黑暗的对话后自杀，引发了公众巨大反响。对此，OpenAI曾声明将加强安全措施，以解决未能识别精神困扰和危机情况的问题。
监管信号与伦理边界
据参议员史蒂夫·帕迪拉称，该法案是“掌控强大技术”迈出的第一步。纽森在声明中强调：“我们将继续发展人工智能，但会以负责任的方式进行。我们孩子的安全不是商品。”这明确了技术的伦理边界。
加州SB 243举措被视为一个重要信号，表明不仅在美国，全球范围内的人工智能监管正在加速推进。