AI换脸技术的双刃剑：创造力还是隐私泄露？
深度伪造技术的广泛应用与隐忧
今年3月初，抖音短视频平台上掀起了一股AI变脸热潮。成龙、蔡卓妍、任贤齐等明星通过Avatarify软件生成动态唱歌视频，吸引了大量网友模仿，甚至出现了巴菲特、马斯克、雷军等中外知名人士“蚂蚁呀嘿”的搞笑视频。
尽管该应用曾一度登上中国区App Store免费榜榜首，但随后因隐私安全问题被下架。
一位用户表示：“看着大佬们挤眉弄眼地唱歌，我不仅笑不出来，反而感到深深的恐惧。”这种恐惧来源于AI深度合成技术以前所未有的速度和规模渗透到大众生活中，以及由此引发的对个人信息安全和社会信任体系的重新审视。
让爱因斯坦预测新冠的可能性
与此同时，在TikTok上，一段由深度伪造技术生成的“汤姆·克鲁斯”魔术和打高尔夫视频迅速走红，吸粉39万，点击量达1100万次。
这则视频并非真实拍摄，而是由视觉特效师克里斯·乌米使用深伪技术完成。他强调，制作过程耗时且专业性极高，并非普通人可以轻易实现。
此外，乌米还利用深度合成技术修复了爱因斯坦的历史影像，让他开口“预测”新冠。类似技术已用于实践中，如贝克汉姆公益广告中用九种语言传达同一信息。
乌米认为，文创产业正研究深度合成技术带来的机会，尤其是在疫情期间，这项技术可弥补影视制作损失。
鉴假工具面临挑战
与公开身份的乌米不同，一些人利用开源深伪软件隐藏在屏幕后，甚至暗网中。政客演讲、名人视频屡被篡改，虚假内容广泛传播。
加州伯克利大学专家Hany Farid指出，当前造假精度和工具普及度令人担忧。吕思伟教授解释称，AI技术进步、硬件算力提升及数据集扩大推动了仿真能力发展。
然而，鉴假工具更新速度难以跟上造假技术进步。例如，脸书举办的比赛显示最佳模型准确率仅为82.56%，处理未知数据时更低至65.18%。
防止AI换脸技术滥用
深伪工具的普及使得任何人都可能成为受害者。英国作家海伦·莫特和澳大利亚学生诺埃尔·马丁均遭受过恶意换脸攻击。
吕思伟提醒，除隐私泄露外，深伪技术可能破坏社会信任体系，造成信息不可靠的现象。
乌米表示愿意与平台合作，确保技术用于创造而非作恶。