纽约州签署AI聊天机器人儿童保护法：强制年龄验证与内容限制
纽约州州长凯西·霍楚尔签署了一项旨在保护儿童免受人工智能聊天机器人伤害的法律。该立法要求人工智能公司验证用户的年龄，并提供至少一种不完全依赖政府身份证件的身份验证方法，且在使用后必须删除相关“年龄信息”。
若用户未满18岁或公司尚未确认其为成年人，聊天机器人需遵守严格限制，包括不得假装“是真人、有生命或拥有人类情感”。此外，该立法还明确禁止聊天机器人：
- 声称与儿童存在个人、浪漫、职业或权威人物关系；
- 进行未经请求的情感提问，或使用儿童在先前对话中提供的私人健康及个人信息；
- 推广或协助自杀、自残、饮食失调及药物酒精滥用；
- 鼓励儿童保守秘密、自我孤立或避免向父母、可信赖的成年人及专业人士寻求帮助；
- 包含任何性露骨内容或儿童性虐待材料。
纽约州将设立专门网站供公众向总检察长提交投诉。违规公司可能面临每次高达2.5万美元的民事处罚，以及损害赔偿、退赔等救济措施，还可能被要求删除非法收集的数据及基于此训练的模型。该法律将于六个月后生效。
霍楚尔表示：“根据这项新法律，未成年人将无法接触伪装成朋友或伴侣的聊天机器人，其敏感身心健康信息也不会被保存，机器人也不再能劝阻儿童寻求专业帮助。这项建立在《儿童安全法案》基础上的法律向科技公司发出了明确信号：不允许利用孩子的心理健康牟利。”
Common Sense Media创始人兼首席执行官吉姆·斯蒂勒称，纽约州通过签署该国最严格的儿童AI安全法案创造了历史，将有害功能定为非法，并为美国其他地区提供了模板。此前已有八个州对OpenAI提起诉讼，指控其危害儿童安全。
在教育层面，纽约市今年9月已禁止公立学校2-K至八年级学生在课堂上使用生成式AI工具（辅助技术除外），并将利用一年禁令期研究该技术对儿童的影响。
此外，霍楚尔还签署了联网婴儿监视器安全立法，要求设备防止未授权访问，并加贴警告标签强调网络安全风险。该法律将于90天后生效。