深度合成的法律风险及合规提示- 大数跨境

三知法行

2023-01-04

导读：浅析《互联网信息服务深度合成管理规定》

2022年年末， ChatGPT聊天机器人火遍全网，作为一个自然语言生成式 AI，它可以写代码、修幅bug，写诗歌、以鲁迅的口吻创作小说，甚至可以探讨生存哲学问题。ChatGPT是由美国OpenAI开发的大规模预训练语言模型，它的爆火使得各大资本竞相入局。在此类深度合成技术不断发展的局面下，合规重要性越发凸显。2022年11月25日，国家网信办、工信部和公安部联合发出《互联网信息服务深度合成管理规定》（以下简称《深度合成规定》），旨在加强互联网信息服务深度合成管理，保护各主体的合法权益。《深度合成规定》将于2023年1月10日施行。本文结合深度合成的法律风险，浅析《深度合成规定》的合规要点。

一、什么是深度合成

根据《深度合成规定》，“深度合成技术”是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于文本内容生成、语音内容或非语音内容生成、影像内容中生物特征或非生物特征生成，以及数字人物、虚拟场景生成。深度合成目前已经应用于广泛的现实领域，如娱乐场景、建筑可视化、工业设计以及虚拟现实。目前非常热门的AI绘画就是应用深度合成技术的结果。基于计算机程序在大量真实存在的绘画作品中通过“文字-图像”匹配训练进行归纳和学习，通过文本识别技术和AI算法，将“语言描述”自动变为图像（关于AI绘画中涉及到的法律问题，可参考本律师团队文章《关于AI绘画的法律问题探析》）。

二、深度合成的法律风险

在现实中，深度合成技术可以使一些已过世的名人进行在影视剧、演唱会中以虚拟数字人的形态“复活”。日常生活中如某些虚拟人偶像、AI绘画、AI对话机器人等，也已非常普遍。深度合成技术虽然可以用来创建许多有趣和有用的作品与产品，但是它也面临着一些法律风险。

（一）侵犯著作权的风险

《著作权法》规定电影、电视剧作品的著作权由制作者享有，由此制作者对其作品享有保护作品不受歪曲、篡改的权利，同时享有改变其作品而创作出具有独创性的新作品的权利。深度合成技术容易侵犯他人的著作权，比如，深度合成在换脸合成视频中的广泛应用，可能会侵犯作者的著作权利。在未经授权的情况下，深度合成服务提供者用其他人脸替换原作品中的角色人物或者进行再创作，这将侵犯原制作者享有的改编权；如果该换脸合成视频存在歪曲、篡改的情形，也可能侵犯制作者享有的保护作品完整权。另外，还有《著作权法》第四章第二节规定的表演者享有的人身权与财产权。如换脸视频中较为火爆的杨幂换脸朱茵版94 版《射雕英雄传》黄蓉视频，这种场合下，掩盖了原表演者的身份，可能侵犯原表演者的人身权利；而在网络的大范围传播行为未进行授权，也有可能侵犯原表演者的财产权利。虽然换脸视频的制作者可以援引《著作权法》第二十四条规定的合理使用原则予以规避侵权风险，但该换脸行为是否满足合理使用的适用范围、是否满足“不得影响该作品的正常使用”以及是否满足“不得不合理地损害著作权人合法利益”，仍需制作者举证证明。因此，深度合成作品制作者在深度合成过程中，要关注合成素材是否具有侵犯他人著作权的可能性，避免承担相关法律责任。

（二）侵犯肖像权的风险

深度合成技术，可以根据使用者直接上传的图片、影像，映射于另一载体。我国目前已有利用深度合成技术侵犯个人肖像权的真实案例。如，杭州互联网法院审理的“AI换脸”案中，被告A公司运营的“AI换脸”APP中有楼某某拍摄的古风造型视频模板。用户可通过上传个人照片，将视频模板中的人脸替换成用户上传的人脸，除五官发生实质性变化之外，其余内容都与原视频保持一致，软件生成换脸后的古风造型视频，用户可以将其保存并分享到其他平台。杭州互联网法院经审理认为，民法典明确将“不得利用信息技术手段伪造等方式侵害他人的肖像权”，作为侵害肖像权的一种典型形态予以规制。“利用信息技术手段伪造”是指利用信息技术手段编造或者捏造他人肖像，以假乱真，以达到利用不存在的事物来谋取非法利益的目的。同时，涉案视频模板已被用户多次使用和收藏，可以认定A公司利用深度合成技术将其他用户提供的人脸替换至涉案视频中的身体形象之上，并生成了形象逼真、画面流畅的伪造肖像视频，可供用户进行下载保存、发布共享等不当使用。因此，法院认定，该行为本身已侵害楼某某肖像权。《民法典》[1]《个人信息保护法》[2]的出台，对于肖像权这一敏感个人信息予以了特别保护。据此，深度合成服务中需要使用者人脸等生物识别信息的，必须具有特定的目的和充分的必要性，采取严格保护措施，并取得被编辑的个人信息主体的单独授权。

（三）侵犯隐私权、名誉权等风险

娱乐时代，深度合成在视频换脸中的应用，已让许多艺人与政治家的面部信息被恶意用于不雅视频，并在网络平台广泛传播。这不仅涉及到肖像权侵权，更涉及到侵犯公民的隐私权及名誉权。王利明教授指出，隐私权主要包括生活安宁和私人秘密两个方面。[3]个人在隐私权的保护下，有权决定何时、何处暴露自己的面部外表，且人脸信息属于个人信息保护法予以特殊保护的生物识别信息。因此，换脸后的图像、视频在网络上的广泛传播必然会对个人生活的安宁造成不良影响；如换脸后的图像或视频还涉及侮辱、诽谤的内容，给他人的社会评价造成恶劣影响，则可能侵犯他人的名誉权。

三、深度合成的合规要求

为呼应深度合成在日常生活中大量应用的场景需要，我国出台了《深度合成规定》，明确在中华人民共和国境内应用深度合成技术提供互联网信息服务，均需遵守相关的合规义务。该规定不仅对深度合成服务的提供者进行规制，同时也对深度合成服务技术支持者、使用者、平台方进行了一定的规制：

（一）《深度合成规定》中的合规义务主体[4]

主体	定义
深度合成服务提供者	提供深度合成服务的组织、个人
深度合成服务技术支持者	为深度合成服务提供技术支持的组织、个人。
深度合成服务使用者	使用深度合成服务制作、复制、发布、传播信息的组织、个人。
应用程序分发平台	互联网应用商店等

（二）上述主体的合规义务

义务	义务内容	相关主体
信息真实义务[5]	不得利用深度合成服务制作、复制、发布、传播虚假新闻信息	深度合成服务提供者和使用者
信息安全义务[6]	建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度，具有安全可控的技术保障措施	深度合成服务提供者
	应当加强技术管理，定期审核、评估、验证生成合成类算法机制机理	深度合成服务提供者和技术支持者
	应当制定和公开管理规则、平台公约，完善服务协议，依法依约履行管理责任	深度合成服务提供者应当履行，深度合成服务技术支持者和使用者配合承担义务
	应当落实上架审核、日常管理、应急处置等安全管理责任，核验深度合成类应用程序的安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施[7]	互联网应用商店等应用程序分发平台
身份认证义务[8]	应当基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式，依法对深度合成服务使用者进行真实身份信息认证，不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务	深度合成服务提供者
内容管理义务[9]	加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核；应当建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序，记录并留存相关网络日志	深度合成服务提供者
信息标识义务	对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息[10]	深度合成服务提供者
	提供深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况[11]	深度合成服务提供者
告知及单独同意义务[12]	提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意	深度合成服务提供者和技术支持者
备案及公示义务[13]	应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续；完成备案主体应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接	深度合成服务提供者和技术支持者
行政协助义务	网信部门和电信主管部门、公安部门依据职责对深度合成服务开展监督检查的，当事主体应依法予以配合，并提供必要的技术、数据等支持和协助。发现深度合成服务存在较大信息安全风险的，当事主体应按要求采取措施，进行整改，消除隐患 [14]	深度合成服务提供者和技术支持者
	当事主体应建立健全辟谣机制，对利用深度合成技术制作、复制、发布或传播虚假信息的行为及时采取辟谣措施，保存有关记录，并向有关主管部门报告[15]	深度合成服务提供者
	深度合成服务提供者发现违法和不良信息的，应当依法采取处置措施，保存有关记录，及时向网信部门和有关主管部门报告；对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施[16]	深度合成服务提供者

《深度合成规定》通过明确深度合成服务提供者、技术支持者和使用者的合规义务，构建起了关于深度合成技术的合规框架。按照《深度合成规定》要求，亦能有效规避深度合成的相关法律风险。因此，元宇宙、AI等相关数字产品应根据《深度合成规定》的内容，及时明确主体地位，并根据《深度合成规定》及时规范内部合规体系，规避管理红线。

参考资料：

[1] 参见《民法典》第一千零一十九条：任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。

[2] 参见《个人信息保护法》第二十八条：敏感个人信息是一旦泄露或者非法使用，容易导致自然人的人格尊严受到侵害或者人身、财产安全受到危害的个人信息，包括生物识别、宗教信仰、特定身份、医疗健康、金融账户、行踪轨迹等信息，以及不满十四周岁未成年人的个人信息。只有在具有特定的目的和充分的必要性，并采取严格保护措施的情形下，个人信息处理者方可处理敏感个人信息。

[3] 参见王利明：《隐私权概念的再界定》，载于《法学家》2012年第1期。

[4] 参见《深度合成规定》第二十三条。

[5] 参见《深度合成规定》第六条第二款。

[6] 参见《深度合成规定》第七条。

[7] 参见《深度合成规定》第十三条。

[8] 参见《深度合成规定》第九条。

[9] 参见《深度合成规定》第十条第一、二款。

[10] 参见《深度合成规定》第十六条。

[11] 参见《深度合成规定》第十七条。

[12] 参见《深度合成规定》第十四条第二款。

[13] 参见《深度合成规定》第十九条。

[14] 参见《深度合成规定》第二十一条。

[15] 参见《深度合成规定》第十一条。

[16] 参见《深度合成规定》第十条第三款。

本文作者

高含实习律师

专业领域：

公司合规、并购融资、争议解决

团队简介

上海锦天城（广州）律师事务所彭胜锋律师团队坚持“专业致胜、客户至上”的价值观，通过团队协作、专业研究、良好服务提升团队竞争力。团队专注商事争议解决、股权投融资及并购重组、企业合规专业领域法律服务。本律师团队现为欧派家居（603833.SH）、斯凯奇中国（SKECHERS CHINA）、中船黄埔文冲、红海人力集团、省广众烁、辽宁省政府广东办事处等单位提供法律服务。