真假难辨：再议AI深度伪造（Deepfake）之法律边界

作为AI技术进步的产物之一，“AI深度伪造（deepfake）”技术让歌手“唱着”那些根本没有唱过的“歌”、让演员“演着”从没有演过的“剧”。与此同时，AI deepfake技术的滥用正在掀起一股虚假和诽谤内容的浪潮。2024年2月，犯罪嫌疑人用深度伪造（deepfake）技术进行AI换脸后，假冒跨国企业奥雅纳（Arup）英国总部的CFO及高管团队，成功骗走了该企业香港分公司近2亿港币[1]。更有甚者，犯罪嫌疑人利用deepfake技术制作和传播换脸后的女性色情图片、视频。许多明星艺人，如著名歌星Taylor Swift[2]深受其扰，且大量素人也沦为这场AI deepfake技术“侵扰”的对象。例如，近日韩国新闻报道大量女性成为深度伪造性犯罪受害者，其中有近三分之一为未成年人[3]。AI deepfake技术野蛮生长给观众带来新鲜感官体验的同时，其所造成的侵权问题屡见不鲜且愈演愈烈。

笔者团队曾于2023年5月撰写了一篇文章：《相由AI生：浅谈深度伪造（Deepfake）与个人形象权》，分析了当时中美两国关于深度伪造（deepfake）的法律规制及司法实践。一年之后，AI deepfake技术应用愈加广泛，而伴随技术革新的是个人形象权因技术滥用被侵犯的“灰色地带”也悄然扩张。具体而言，个人形象权的受损客体从肖像扩张到了声音，受损主体也从名人不断向素人蔓延，且侵权现象呈现色情化和犯罪化特征。除此之外，在全球最近的司法实践中，AI deepfake技术不仅被用于制作自然人的数字分身（digital replicas[4]）产生侵权争议，也被用于“复活”已故人士继而引发争议。本文将在前文基础上继续梳理美国和中国关于深度伪造（deepfake）的最新法律规范及司法实践，拟进一步探讨AI与个人形象权保护的关系。

美国法中与deepfake最相关的是隐私权和个人形象权[5]。目前，在联邦法层面，美国尚未有针对个人形象权的已生效法律。在州法层面，美国部分州并未立法承认隐私权和个人形象权，而承认这两个权利的州在具体权利条款上也因州而异，尤其是在个人形象权的保护期限、侵权构成、第一修正案的适用以及司法救济等方面的规定均不相同。

田纳西州是美国第一个对受AI deepfake侵犯的个人形象权进行立法保护的州。其2024年7月1日生效的《确保肖像、声音和图像安全法》（Ensuring Likeness Voice and Image Security Act，简称“The ELVIS Act”）明确了未经权利人同意不得对任何人（every individual[6]）的包括声音在内的个人形象权客体进行AI克隆。（详见团队此前文章《浅析AI克隆艺人声音的侵权问题——中美新近立法与司法实践对比》）随后，伊利诺伊州州长于2024年8月9日签署了HB4875法案[7]，该州成为美国第二个保护个人形象权以防止AI技术侵害的州。该法案修改了该州之前的《个人形象权法》（Right of Publicity Act）部分条款，赋予个人通过诉讼救济其被未授权的数字复制品侵犯的个人形象权。

同时，加利福尼亚州和纽约州也在加强针对AI deepfake侵犯个人形象权问题的立法。譬如，加利福尼亚州继2019年颁布打击色情制品深度伪造的AB602法案[8]之后，又于2024年8月底在州参众两院投票通过AB2602法案[9]，修改了《加州劳动法典（the Labor Code of California）》部分条款。该法案规定使用表演者的“数字复制品（digital replica）”应获得授权，旨在保护所有表演者在影视、游戏、有声书及广告等领域的形象和声音权益。随后于2024年8月31日，州参众两院投票通过了AB1836法案[10]。该法案修改了《加州民法典（the Civil Code of California）》部分条款，以保护已故名人的数字复制权[11]。AB2602法案及AB1836法案仍待加州州长签署才能正式生效。而纽约州州长于2023年9月29日签署S1042A法案[12]修改了《纽约州刑法（New York Penal Law）》部分条款。该法案明确禁止传播利用AI deepfake技术制作的未经本人同意的色情图像，但没有禁止制造此类深度伪造内容的行为[13]。

尽管美国各州正在针对AI deepfake侵犯个人形象权问题积极修改相关立法，但各州的立法所针对的保护对象、保护期限以及救济措施依然存在着不一致的问题，因此美国版权局在2024年7月底的报告中指出“美国迫切需要制定一部联邦法律来解决未经授权的数字复制品问题”[14]。目前，美国联邦法律并未形成专门针对deepfake的整体规范框架，仅根据《版权法》、《联邦贸易委员会法》、《兰哈姆法》和《通信法》针对deepfake所涉及的不同领域问题提供有限保护。

但联邦层面也在不断探索专门针对deepfake的立法。2024年7月31日，克里斯·库恩斯（Chris Coons）等议员正式向参议院提出《培育原创、促进艺术和保障娱乐行业安全法案（草案）》（Nurture Originals, Foster Art, and Keep Entertainment Safe Act of 2023，简称“NO FAKES Act”）[15]，其中包括以下几个要点。

其一，NO FAKES Act从联邦层面创设了“数字复制权”（digital replication right），作为一项用于保护所有人的声音和视觉形象的知识产权。具体而言，数字复制权是一种可以授权他人在数字复制品中使用个人声音和视觉形象的财产权。该法案规定数字复制权生前不得转让但可授权、可继承且权利人死后该权利仍然受到保护（最长保护期可达70年）；该权利保护对象包括成年人和未成年人[16]。其二，法案明确了侵犯数字复制权的情形（未经权利人同意制作、发布、复制、传播或其他方式向公众提供的行为）、诉讼时效（发现侵权之日起三年）和权利救济类型（包括金钱赔偿、禁令、惩罚性赔偿以及负担律师费等）。其三，该法案突出的特点是平衡了各方利益。首先平衡了艺人（演员/编剧等）和公司的利益。去年以来好莱坞持续的工会大罢工轰轰烈烈，该法案的出现有利于缓解演员/编剧和影视制作公司的紧张关系。对艺人而言，该法案从联邦层面否认了数字复制权的可转让性，由此可以保护权利人的利益在其生前演艺生涯内不受大型唱片公司、制片公司等巨头强迫转让的风险，在死后仍然可以通过展期的方式维护其权利利益。除此之外，考虑到互联网平台的利益，法案也延续了美国《千禧年数字版权法》（Digital Millennium Copyright Act of 1998，简称“DMCA”)确定的“通知—删除”避风港原则。

同期，2024年7月11日，美国参议院商务委员会主席玛丽亚·坎特威尔（Maria Cantwell）等人提出《内容来源保护及防止编辑和深度伪造媒体完整性（草案）》（Content Origin Protection and Integrity from Edited and Deepfaked Media Act，简称“COPIED Act”）旨在对人工智能生成的内容制定新的联邦透明度准则，保护记者、艺术家和词曲作家的原创内容免受非法AI deepfake技术篡改和滥用[17]。2024年7月24日，由参议员迪克·德宾（Dick Durbin）等人提出的《2024年破坏明确伪造图像和未经同意的编辑法案》（Disrupt Explicit Forged Images and Non-Consensual Edits Act of 2024，简称“DEFIANCE Act”）在参议院已通过。该法案界定了数字伪造（digital forgery, often called deepfakes）的概念[18]，旨在追究行为人未经权利人同意利用deepfake技术制作、传播虚假私密图像和视频的责任[19] 。

2024年6月18日，美国加利福尼亚州中区地方法院就一起关于利用deepfake技术侵犯已故艺人个人形象权及版权的案件（Main Sequence, Ltd. v. Dudesy, LLC[20]）作出了和解同意判决和永久禁令[21]。本案中，共同原告Main Sequence, Ltd.是一家位于美国缅因州的公司，负责管理已故喜剧演员乔治·卡林（George Carlin）[22]的遗产（包括其个人形象权及其版权作品），杰罗尔德·哈姆扎（Jerold Hamza）是卡林遗产的执行人；被告Dudesy, LLC运营一个名为 “Dudesy” 的YouTube播客频道。

2024年1月25日，原告提起诉讼，指控被告未经授权、擅自使用AI技术“复活”了已于2008年去世的喜剧演员卡林。根据起诉书，被告未经授权使用卡林的原创版权作品（即卡林的单口喜剧）编写了一个喜剧节目特辑的剧本，反映卡林自其去世后对时事的评论，并制作了一个模仿卡林声音的版本来“表演”这个剧本。被告于2024年1月9日在Dudesy播客的YouTube频道上发布了这个AI生成的名为“I'm Glad I'm Dead”的喜剧节目特辑（简称“被诉节目”），因此产生了流量以及收益。原告认为，根据《加州普通法》（CAL. COMMON LAW）、《加州民法典》第3344条（其中 CAL. CIV. CODE § 3344.1[23]特别提出对权利人死后个人形象权的保护）以及美国《版权法》第501条（17 U.S.C. § 501）[24]，被告的上述行为侵犯了喜剧演员卡林的版权和个人形象权。2024年1月31日，被告通知原告其已在Dudesy播客的YouTube频道下架了被诉节目，并采取合理措施从Dudesy播客及Dudesy的社交媒体账户（包括Instagram、Facebook和TikTok）上删除了所有提及卡林的内容。2024年4月1日，双方达成和解并于次日向加州中区地方法院提交了同意判决和永久禁令的联合动议[25]。

2024年6月18日，加州中区地方法院发布了和解同意判决和永久禁令。法院认定被告在原告不知情或未同意的情况下用AI技术制作的视频侵犯了原告的权利（“in violation of Plaintiffs’ rights”），因此对被告发出永久禁令，永久禁止被告在任何网站、账号或平台发布被诉节目，并永久禁止被告未经原告的书面同意在所有社交媒体上使用乔治·卡林的肖像、声音和形象[26]。

中国法针对深度伪造的法律规定主要以《民法典·人格权编》条款、《个人信息保护法》以及《互联网信息服务深度合成管理规定》（以下简称“《深度合成管理规定》”）、《生成式人工智能服务管理暂行办法》（以下简称“《暂行办法》”）等互联网管理相关法律法规构建了规范框架。

《民法典》第1019条[27]旨在保护公民肖像权。未经他人同意通过深度伪造技术制作、使用和公开他人肖像是侵犯肖像权的行为。在古风汉服网红魏某诉“AI换脸”App系列案件[28]中，一审法院认为通过AI换脸技术替换了原视频中的自然人形象，属于《民法典》第1019条的“以利用信息技术伪造的方式”侵害他人肖像权的行为。此外，声音作为重要的人格标识，具有识别个人身份的重要作用和人身专属性的特点，也因此具备了法律意义上的人格属性。深度伪造他人声音的行为适用人格权保护在中国已有相关司法案件进行了确认（见下文“殷某诉AI声音深度伪造案”）。

2023年1月10日起生效的《深度合成管理规定》[29]和2023年8月15日起施行的《暂行办法》[30]都明确了提供和使用生成式人工智能服务，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。

《深度合成管理规定》和《暂行办法》均表明保护自然人的权利在互联网中免受包括deepfake技术在内的生成式人工智能技术滥用的侵犯，也表达了在鼓励人工智能技术发展的同时也会加强对平台的监管。针对deepfake技术，中国监管机构试图通过已有的法律法规（例如《民法典》，《深度合成管理规定》）和针对生成式人工智能的新立法（例如《暂行办法》）来进行规制，并通过司法判例来逐渐明晰其法律边界。

2024年4月23日，北京互联网法院一审开庭宣判了中国首例AI生成声音侵权案。[31]本案中，原告殷某某是一名配音演员，原告曾与被告二签订了委托协议，为其录制录音制品（经合同约定，录音制品的版权归被告二所有）。被告二随后将原告的录音制品提供给被告三，授权其利用原告的声音进行人工智能开发使用。被告三将原告声音进行了AI训练后开发出与原告声音相同的AI-文本转语音产品。该产品随后被告四托管，由被告五分销，最终由被告一购买后通过第三方接口在被告一平台上向公众提供服务。后来原告发现了自己的声音在该平台上广泛流传。原告殷某某以五被告侵害其声音权益为由向法院提起诉讼，要求被告应立即停止侵权、赔礼道歉，并赔偿原告经济损失、精神损失。

法院认为：（1）自然人声音可以对外展示个人的行为和身份。利用人工智能合成的声音，如果能使一般社会公众或者相关领域的公众根据其音色、语调和发音风格，关联到该自然人，可以认定为具有可识别性。（2）在明确认定具备可识别性的前提下，自然人声音权益的保护范围可及于AI生成声音。（3）被告二对录音制品享有著作权等权利，不包括被授权可以对原告声音进行AI化使用。未经原告许可AI化使用原告声音，构成对原告声音权益的侵犯。

据此法院宣判：（1）被告一北京某智能科技公司、被告三某软件公司向原告赔礼道歉；（2）被告二北京某文化传媒公司、被告三某软件公司向原告赔偿损失共计25万元。

2024年6月20日，北京互联网法院审理了一起“AI换脸”软件侵犯个人信息权益的案件[32]。本案中，原告廖女士和吴女士是国风短视频模特，被告为经营某“换脸” App的运营商。原告提出两项侵权控诉：（1）该APP软件以自己发布的视频为基础制作了“换装”模板提供给用户付费使用，该行为侵害了原告的肖像权;（2）被告未经同意擅自上传和使用了具有原告肖像信息的视频，这一行为系被告非法获取原告人脸信息并篡改，侵害了原告的个人信息权益。原告据此要求被告赔礼道歉，并赔偿精神损失和经济损失。