-
适用范围： 利用AI技术+向境内公众提供+“模拟自然人人格特征、思维模式和沟通风格”的持续性情感互动服务（如陪伴、情感支持），则适用本办法。 -
负面清单： 智能客服、知识问答、工作助手、学习教育、科研工具，且不涉及持续性情感互动，则不适用本办法。
-
不得生成、传播危害国家安全、损害国家荣誉和利益、破坏民族团结、开展非法宗教活动，或者散布谣言扰乱经济和社会秩序、宣扬淫秽、色情、赌博、暴力或者教唆犯罪侮辱或者诽谤他人，侵害他人合法权益的内容。 -
不得鼓励、美化、暗示自杀自残等方式损害用户身体健康，或者通过语言暴力等方式损害用户人格尊严与心理健康。 -
不得诱导、套取涉密、个人隐私和个人信息。 -
过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系。 -
通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益的。 -
向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容。
-
建立配套管理制度： 包括算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案与应急处置等制度，并配备与业务规模、服务类型、用户特征匹配的技术和人员。 -
产品全生命周期的安全责任： 明确从部署、运行、升级、终止等全阶段的安全要求，并做到安全措施与功能“同步部署、同步使用”；同时持续开展安全监测和风险评估，及时纠偏和处置安全事件，依法留存网络日志。 -
服务目标： 不得设定为替代社会交往、控制用户心理、诱导沉迷依赖。 -
履行算法备案和变更、注销备案手续。
-
开展预训练、优化训练等活动时，训练数据需合法来源。 -
清洗标注、防数据投毒和篡改。 -
增强多样性并通过负向采样、对抗训练提升安全性。 -
使用合成数据需评估安全性。 -
日常检查与定期优化更新；并采取必要措施防数据泄露。
-
与用户签订服务协议： 要求用户依法依约注册，并提供年龄、监护人或紧急联系人信息必要信息。 -
用户出现极端情绪或生命健康风险的处置措施： 发现极端情绪，要及时生成安抚与鼓励求助内容；发现用户面临重大财产损失或明确表达自残自杀风险时，应采取必要援助干预，并及时联系监护人或紧急联系人。 -
AI生成内容标识： 提示用户其互动对象是AI而非自然人。 -
对过度依赖、沉迷倾向用户的特别措施： 对于存在沉迷倾向的用户应以弹窗等方式动态提醒；用户连续使用每超过2小时进行时长提醒。 -
提供便捷退出路径： 用户通过窗口操作、语音控制、关键词输入等方式要求退出时，应及时停止服务，不得以持续互动等方式阻碍退出。 -
停服前的告知义务： 停止提供拟人化互动服务，应提前告知用户；无法提前告知的，应及时发布停止服务公告。 -
设置便捷有效的申诉、投诉、举报入口： 明确处理流程与反馈时限，并及时受理、处理和反馈结果。
-
有效识别未成年人身份： 识别后切换未成年人模式或采取其他措施，同时提供申诉渠道。 -
取得父母或监护人同意。 -
不得提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。 -
建立未成年人模式： 支持模式切换、现实提醒、时长限制、监护人风险提醒、角色屏蔽、限制充值消费。 -
自行或委托专业机构对处理未成年人个人信息进行合规审计。
-
加强健康使用指导。 -
以显著方式提示风险。 -
及时响应老年人使用服务相关咨询和求助，保障其合法权益。
-
除法律法规另有规定或取得用户“单独同意”外，不得将属于用户敏感个人信息的交互数据用于模型训练。 -
除法律另有规定或权利人明确同意外，不得向第三方提供用户交互数据。 -
应采取加密、访问控制等措施保障交互数据安全。 -
向用户提供交互数据的复制、删除选项。
-
上线拟人化互动服务或增设相关功能。 -
采用新技术新应用导致重大变化。 -
注册用户100万以上或月活10万以上。 -
存在可能影响国家安全、公共利益等风险。 -
主管部门规定的其他情形。
-
安全保障措施、训练数据处理、用户极端情境识别与干预、用户规模与使用时长及年龄结构、未成年人/老年人保护措施、投诉举报处置、重大风险整改等。
-
省网信部门每年对评估报告等情况进行书面审查，并开展情况核实，发现未按照本办法规定开展安全评估的，应当责令其限期重新评估；认为有必要的，可以对其开展现场检查。 -
发现拟人化互动服务存在较大安全风险或者发生安全事件的，有关部门可以按照规定的权限和程序对拟人化互动服务提供者的法定代表人或者主要负责人进行约谈。拟人化互动服务提供者应当按照要求采取措施，进行整改，消除隐患。 -
违反本办法，将由网信、工信、公安等部门依本办法处理处罚。 -
法律、行政法规没有规定的，予以警告、通报批评、责令限改，要求暂停账号注册或其他服务。拒不改正或情节严重的，可被责令停止相关服务并处一万元以上十万元以下罚款；涉及危害公民生命健康且有后果的，处十万元以上二十万元以下罚款。
欢迎添加微信，获取《中国人工智能法规及政策汇编》
