提示:本文为系列解读下篇,上篇(数字虚拟人合规解读(上):定义、主体与身份生成)已就数字虚拟人的法律定义、产业链主体框架及数据采集、建模阶段的合规要求进行了梳理,可参照结合阅读。本文主要拆解各主体在运营期的持续合规义务及实操建议。
数字虚拟人全生命周期合规框架(续):运营、注销与特殊场景
1.1 输出与运营端:从身份生成走向身份管理
数字虚拟人的风险并不会随着生成完成而结束。相反,当数字虚拟人开始面向用户提供服务时,其数字身份可能持续与用户、平台和外部环境发生交互,进一步产生标识管理、内容治理、人格权益保护和数据安全等新的合规要求。
(1)数字身份的可识别性管理:标识义务
《办法》第13条要求,对数字虚拟人服务应当按照国家有关规定添加显著标识。对于数字主播、数字客服、数字讲师等场景,用户应能够清晰识别其数字虚拟人身份,而不应被误认为真实自然人。对于预录制视频、直播内容等持续传播场景,还应关注标识在传播链条中的完整保留。
(2)数字身份的风险治理:监测、预警与处置机制
《办法》第15条要求服务提供者和服务使用者建立安全风险监测、预警和应急处置机制,并通过技术措施与人工审核相结合的方式,对数字虚拟人服务运行过程中的风险进行识别、监测和预警。
与传统互联网内容审核不同,第15条的覆盖范围不限于输出内容本身,而是延伸至服务运行的全过程。对于交互型数字虚拟人,还应关注实时互动场景下的风险控制,在发现违法活动或重大风险时及时采取限制功能、终止服务、注销数字虚拟人等措施。
(3)数字身份的关系管理:拟人化互动风险
随着拟人化程度提升,部分产品已从信息服务发展为情感陪伴工具,由此产生诱导沉迷、过度依赖等新型风险。对此,《办法》第18条要求:用户取消特定功能或退出服务时,不得诱骗或过度诱导其继续使用,并鼓励对自杀、自残等威胁生命健康的倾向进行积极干预。
对未成年人,第10条作了更严格的禁止性规定:不得提供虚拟亲属、虚拟伴侣等虚拟亲密关系,不得诱导过度消费、诱导信教,或提供可能影响其身心健康的内容。
对于具有较强拟人化互动能力的数字虚拟人,建议:
避免通过人格设定、情感反馈等方式强化用户依赖;
针对未成年人设置使用时长提醒、功能限制等保护措施;
对涉及情感陪伴、心理咨询等高风险场景建立人工介入和风险提示机制。
(4)数字身份的权益管理:人格权保护
数字身份生成完成后,相关人格权益保护义务仍持续存在。《办法》第8条规定,不得以丑化、污损等方式侵害他人人格权,未经特定自然人同意,不得提供足以识别特定自然人身份的数字虚拟人服务。
因此,对于以特定自然人为原型生成的数字虚拟人,服务提供者和服务使用者均应关注数字身份的使用边界。服务提供者应建立内容审核、投诉处理注销机制;服务使用者则应确保数字身份的实际使用未超出授权范围,且不得实施丑化、污损等侵权行为。此外,传播平台应当建立数字虚拟人内容审核机制及投诉举报机制,任何侵害人格权或在授权终止后继续运营可识别数字身份的行为,均将引发严重的法律争议与合规风险。
(5)数字身份的数据治理:数据安全保护责任
与输入、建模阶段处理“原型自然人”素材不同,运营阶段持续产生的是“交互用户”的对话、语音、行为等新数据,构成一项独立且不断累积的个人信息处理活动。因此其重点不在重复建模授权,而在于针对这批新增数据的处理活动,依法履行告知义务,并落实最小必要原则、留存期限要求与删除机制;对具备长期记忆或持续学习能力的数字虚拟人,尤应限制数据留存范围与访问权限,交互数据未经重新取得用户同意或未经彻底匿名化处理的,不得违规反哺用于模型训练。
1.2 撤回同意与注销:消除影响
数字身份一旦形成,其影响往往具有持续性。因此,当自然人撤回同意时,合规问题往往并不会随着原始数据删除而自动消失。对于已经完成建模并投入运营的数字虚拟人而言,退出机制往往同时涉及个人信息处理和数字身份管理两个层面。
根据《办法》第7条,自然人撤回同意后,相关主体应采取删除相关个人信息等方式消除影响,不得以任何形式留存个人信息或者用于其他用途;除当事人另有约定外,还应当注销数字虚拟人。需要特别注意的是,在数字虚拟人建模的特定语境下,法条所指的需要删除的“相关个人信息”原则上包含作为建模基础的底层生物识别数据及原始素材。实务中,相关主体不得以“已删除姓名、账号等一般个人信息”为由,留存生物识别数据。
1.3 额外合规场景
未成年人保护(第10条):禁止向未成年人提供虚拟亲属/伴侣等虚拟亲密关系服务;禁止诱导沉迷、过度消费、诱导信教等危害身心健康的内容。
拟人化互动服务(第18条):用户取消功能或退出服务时,不得诱骗或过度诱导继续使用;鼓励对自杀、自残等威胁生命健康的倾向进行积极干预。
舆论属性或社会动员能力(第21、22条):须履行算法备案手续;按规定开展安全评估。
政务司法/公共管理场景(第19条):须设置人工监督与审核机制;用户有权选择接受或拒绝数字虚拟人服务。
医疗、金融、新闻出版、电影领域(第26条):除满足《办法》要求外,须同时符合行业专属监管规定。
各主体数据合规建议
2.1服务提供者合规 Checklist
2.2服务使用者合规重点关注事项
与服务提供者相比,服务使用者通常不直接参与模型训练和平台治理,但仍需对数字虚拟人的实际运营和使用承担相应责任。除遵守前述授权管理、数据安全、标识管理、内容治理等一般义务外,还应重点关注以下事项:
(1) 供应商准入与合同管理
服务使用者虽不直接参与模型训练,但仍应关注所采购数字虚拟人服务的合规能力。建议:
要求供应商提供数据来源合法性承诺;
核查供应商算法备案、安全评估等合规情况,如适用(属建议实践,《办法》未直接要求服务使用者承担此项核查义务);
在服务协议中明确数据安全、内容安全及侵权责任分担;
确认供应商具备数字人注销和应急处置能力。
(2) 授权范围与实际使用边界
实践中,服务使用者往往是数字身份的实际运营者,因此应重点关注授权范围与实际使用场景的一致性。建议:
建立数字虚拟人授权台账;
明确授权场景、期限及商业化范围;
员工离职、合作终止后及时启动数字人下线和注销流程。
(3) 特殊场景叠加义务
对于未成年人保护、拟人化互动、政务服务以及医疗金融等场景,还应遵守相应特别规定。
2.3 技术支持者合规重点关注事项
技术支持者提供的模型、算法和技术能力构成数字虚拟人服务的基础。除遵守个人信息保护、数据安全、人格权和知识产权保护等一般义务外,还应重点关注以下事项:
(1) 算法备案
对于为具有舆论属性或者社会动员能力的数字虚拟人服务提供技术支持的主体,应参照服务提供者要求履行算法备案及相关变更、注销手续。
(2)技术安全责任
在技术研发和产品迭代过程中落实安全可控要求,同时通过协议约定、技术措施等方式支持服务提供者履行内容治理和安全管理义务。
2.4 传播平台重点关注事项
传播平台承担数字虚拟人内容传播和治理责任,重点关注事项集中于内容治理方面。
(1)标识管理
建议:确保“数字人”标识持续展示;防止标识被删除、遮挡或弱化;对未按要求标识的内容及时采取处置措施。
(2)内容治理
建议:建立数字虚拟人内容识别和审核机制;对违法违规内容及时采取限流、下架等措施;对高风险账号和场景加强巡查管理。
(3)投诉举报与协同处置
建议:建立用户投诉和公众举报渠道;配合处理侵权、冒名和人格权争议;配合监管部门开展调查和风险处置。
结语
尽管《办法》尚在制定过程中,但整体监管方向已经逐渐清晰。数字虚拟人行业各类主体可对照梳理自身业务场景与角色,及时识别并排查合规风险,着手搭建完善的合规管理体系。
文章作者:赛博研究院助理研究员 季润节
关于赛博研究院
上海赛博网络安全产业创新研究院(简称赛博研究院),是上海市级民办非企业机构,成立至今,赛博研究院秉持战略、管理和技术的综合服务模式、致力于成为面向数字经济时代的战略科技智库、服务数据要素市场的专业咨询机构和汇聚数智安全技术的协同创新平台。
赛博研究院立足上海服务全国,是包括上海市委网信办、上海市通管局、上海市经信委、上海市数据局等单位的专业支撑机构,同时承担上海人工智能产业安全专家委员会秘书长单位、上海“浦江护航”数据安全工作委员会秘书长单位、上海数据安全协同创新实验室发起单位等重要功能,并组织“浦江护航”数据安全上海论坛、世界人工智能大会安全高端对话等一系列重要专业会议。
欢迎联络咨询:
邮件:public@sicsi.org.cn;
电话:021-61432693。

