文丨王昱
随着生成式人工智能硬件加速迭代、渗透消费市场，美国多个州正在推动针对儿童使用AI陪伴型产品的全新监管措施。
其中，纽约州和加州已针对“具备对话能力的AI儿童玩具”提出暂停销售或其他限制措施。华盛顿州、俄勒冈州等地也开始从AI陪伴聊天程序的透明度、情感依赖风险和未成年人保护等方面制定监管规则。
纽约州目前推进的S9408A法案，被视为美国当前针对AI聊天玩具最为激进的监管措施之一。
该法案旨在禁止在纽约州制造、交换、分销和销售具备聊天机器人功能的儿童玩具，并提出设置为期五年的临时性禁售机制，为监管机构和研究人员评估相关风险留出时间。
根据纽约州参议院公布的信息，该法案适用于“chatbot toys”（聊天机器人玩具），主要针对能够与儿童进行持续自然语言互动的AI玩具产品。
该法案关注的重点主要集中在三个方面。
1 儿童可能与AI玩具形成过度情感依赖：由于部分AI玩具能够长期记忆用户信息，并通过拟人化语言持续回应儿童需求，立法者担心儿童可能模糊人工智能与真人之间的界限。
2 儿童隐私保护问题，包括玩具内置麦克风、语音数据收集以及云端数据处理等风险。
3 儿童社会交往能力发展问题，即长期依赖AI互动是否可能影响现实社交关系。
截至目前，该法案已经通过州参议院和州众议院审议，并于近期通过两院表决、送交后续处理。
加州也在推进类似措施。
其州参议院提出的SB867法案，针对“companion chatbot toys”（陪伴型聊天机器人玩具）提出四年暂停机制，限制面向儿童销售具有陪伴聊天功能的玩具产品。
该法案将重点放在12岁及以下儿童使用的玩具领域，覆盖制造、销售以及向零售渠道供应等环节。
与纽约州方案类似，加州SB867关注的是AI玩具所具有的“持续交互能力”，而不是所有智能玩具产品。普通电子玩具、简单语音控制设备等，并不必然属于监管范围。
该法案的主要政策目标，是在进一步评估AI陪伴型产品对儿童心理和隐私影响的基础上，建立更明确的监管框架。
除针对实体玩具外，美国部分州正在扩大监管范围，将关注点转向软件形态的AI儿童陪伴聊天程序。
华盛顿州相关立法主要针对“AI companion chatbot”，即能够通过自然语言与用户持续交流，并模拟人类互动关系的人工智能系统。
该类产品不同于传统客服机器人，其特点在于能够维持多轮对话、形成长期互动，并通过拟人化方式回应用户情绪需求。
华盛顿州的监管思路并非直接禁止相关产品，而是要求企业承担更多安全责任。
其规定要求AI陪伴聊天机器人必须明确向用户披露其人工智能身份，避免系统声称自己是真人。同时，对于未成年人用户，企业需要采取措施限制不适当内容，并禁止利用强化情感依赖的方式延长用户互动，例如诱导用户持续寻求AI陪伴、制造孤立感或模拟亲密关系等。
此外，华盛顿州方案还关注AI系统面对用户危机表达时的响应机制，包括建立识别风险信号、提供相关支持信息等安全措施。
立法者认为，AI陪伴聊天机器人由于能够模拟情绪交流，与传统互联网产品存在一定差异，因此需要额外的透明度和安全要求。
同在西海岸的俄勒冈州，也紧随加州、华州的步伐，推动针对AI聊天程序的未成年人保护规则。
其监管方向与华盛顿州较为接近，重点包括AI身份披露、限制模拟情感依赖、完善风险应对机制等，旨在通过规范企业设计和运营方式降低潜在风险。
从目前美国各州的立法趋势来看，监管重点正在从单纯关注人工智能生成内容，转向关注AI与用户之间形成的长期互动关系，以及建立在此基础之上的特定硬件产品。
有从业者指出，随着AI技术从“工具型应用”向“陪伴型应用”发展，儿童与人工智能之间的互动模式正在成为新的监管议题。未来，美国各州可能继续围绕年龄识别、数据保护、产品设计责任以及AI拟人化交互边界等方面出台更多规则。
目前，由于美国联邦层面尚未形成统一的儿童AI产品监管框架，各州正在通过地方立法探索不同监管路径。
