案例评析｜“AI换脸”技术的不当使用构成对公民个人信息权益的侵害

人脸信息具有高度识别性和强关联性特点，属于重要敏感个人信息，应当予以特殊保护，任何处理他人人脸信息的行为都必须获得相关主体同意，并严格遵守法律规定。以“AI换脸”为代表的深度合成技术在使用过程中必须受到严格的法律规制，法律倡导“以人为本、科技向善”，技术开发与应用应当符合法律规定与科技伦理道德。

供稿：吴延宁,赵云虎

被告人虞某某在未取得被编辑人同意的情况下，利用“AI换脸”软件将从互联网等渠道收集到的他人人脸信息与部分淫秽视频中的人脸信息进行替换合成，制作生成伪造的淫秽视频、图片，并在超过2000人的网络社交软件群组中传播，涉及被编辑信息主体约百余人。同时，虞某某还对外销售“AI换脸”软件、传授替换使用的教程、提供换脸所需的个人面部模型素材，并为他人提供换脸视频定制服务，牟取非法利益数万余元。虞某某的行为既侵害了不特定多数人的个人信息权益，违反了对敏感个人信息或生物识别信息处理的基本安全保障义务，同时也对公共信息安全领域的社会公共利益构成了威胁，不利于构建清朗和谐的公共网络空间。

本院认为，对于数据、算法、深度合成技术等，有必要指出以下基本认识和必须遵守的原则：数字时代中数据是一种资源，算法则是利用这一资源必不可少的工具，深度合成技术是算法的一种。技术本身是中立无害的，技术本身也不应当直接受到法律的负面评价，脱离开发、使用而单纯对于技术进行规制既无必要也无可行性，但技术中立并不意味着价值中立，特别是开发、应用者的价值中立，更不等于“深度合成”的参与者不应当受到来自法律的规制、道德伦理的约束。算法的独特性质，如不透明性、歧视性和归责困难的特征确需法律对其进行特殊规制。概而言之，应当在场景化思维下着重把握算法设计、算法应用和救济三个阶段。在算法设计时，建立评估备案制度，并将技术伦理和道德伦理嵌入算法开发、设计，使算法开发、设计时就兼备人情与法理。在算法应用时，提高算法的透明度，刺破算法笼罩的神秘面纱，并充分保护个人信息、数据权益。算法的应用应坚持人本原则，辅助人类更加美好的生活是算法和其他技术应用的铁则，如果个人在算法应用过程中产生不适与风险，那么应该赋予其获得算法解释的知情权以及拒绝成为算法分析对象等权利。在救济阶段，应构建、强化算法问责机制，使算法问责过程兼具救济与惩戒。技术的运用是把双刃剑，用之为善可以造福社会，不当滥用则会造成社会风险和损害。故对于“深度合成”的规制应当从其参与者入手，包括发明者、应用者、传播者等方面，以规制深度合成技术使用目的为路径，实现深度合成技术的合理使用，避免该技术对个人、社会、国家造成的诸多方面的风险。同时，也需要引导技术开发、应用者自觉遵守法律规定和科技伦理道德，培育积极健康、向上向善的研发、应用环境，保护和鼓励新兴智能技术的有益探索。