当用户对AI倾诉情感并产生依赖时，面对的究竟是温暖陪伴还是算法程序？这一问题正引发全球监管关注。
中国率先出台AI伴侣监管新规
2026年4月10日，国家网信办等五部门联合发布《人工智能拟人化互动服务管理暂行办法》，将于7月15日正式施行。相较征求意见稿，新规实现四大升级：监管更精准、保护更严格、责任更明确、服务更规范。
作为全球首个专门针对AI伴侣和情感计算领域的国家级政策，中国在该领域立法进度处于国际领先地位。所谓AI伴侣指能识别用户情绪、主动建立情感联系的智能交互系统，其核心监管要求如下：
用户数据安全保护
除法定情形或用户明确同意外，服务提供者不得向第三方提供用户交互数据；严格限制敏感个人信息用于模型训练。
交互透明度要求
须以显著方式提示用户正在与AI互动，覆盖文字、语音、视频全形态；连续使用超2小时须进行使用时长提醒。
未成年人特殊保障
严禁向未成年人提供虚拟亲属、虚拟伴侣等亲密关系服务；向14岁以下未成年人提供服务须取得监护人同意。
心理安全规范
禁止通过语言暴力、情感操控损害用户心理健康，禁止算法操纵诱导不理性决策。
美国俄勒冈州实施AI伴侣法案
2026年3月31日，俄勒冈州州长签署SB 1546法案，成为全美首部AI伴侣监管法律，将于2027年1月1日正式生效。
监管范围界定
法案适用于在该州提供具备情绪识别能力、旨在建立持续情感关系的AI陪伴产品或平台的服务商，但排除客服系统、教育软件及独立智能设备等。
关键合规义务
- 需清晰提示用户正在与AI交互而非自然人
- 必须设置自杀/自残内容拦截机制
- 对未成年人实施身份验证与内容过滤
- 禁止生成性露骨内容或虚假能力陈述
违规者将面临每次1000美元法定赔偿及禁令处罚。