总部位于英国的初创公司Yepic AI声称其使用“善意的深度伪造技术”，并承诺“绝不会在未经同意的情况下重现某人的形象”。但该公司恰恰做了它声称永远不会做的事情。
在一封发给TechCrunch记者的未经请求的邮件推销中，Yepic AI的代表分享了两段该记者的“深度伪造”视频，而该记者并未同意将其肖像用于复制。Yepic AI在推销邮件中表示，它使用了该记者的一张公开照片来制作两段他们以不同语言讲话的深度伪造视频。
记者要求Yepic AI删除其未经授权创建的那些深度伪造视频。
深度伪造是由生成式AI系统创建的照片、视频或音频，旨在看起来或听起来像某个特定个人。虽然这并非新鲜事物，但生成式AI系统的普及使得几乎任何人都能相对轻松地制作出逼真的他人深度伪造内容，包括在对方不知情或未同意的情况下。
在其题为“伦理”的网页上，Yepic AI表示：“禁止出于政治及其他目的[原文如此]制作深度伪造和讽刺性模仿。”该公司还在8月的一篇博客文章中写道：“我们拒绝在未经明确许可的情况下为任何人定制头像。”
目前尚不清楚该公司是否未经同意为其他人生成了深度伪造内容，该公司对此拒绝置评。
在接受评论请求时，Yepic AI首席执行官Aaron Jones告诉TechCrunch，该公司正在更新其伦理政策，以“容纳为艺术和表达目的创建的AI生成图像的例外情况”。
在解释事件发生的原因时，Jones表示：“我和Yepic团队都没有直接参与相关视频的制作。我们的公关团队确认，该视频是专门为这位记者制作的，旨在宣传Yepic所创造的令人惊叹的技术。”
Jones表示，用于创建记者图像的视频和素材图片已被删除。
不出所料，深度伪造已欺骗毫无戒心的受害者陷入骗局，并在规避某些审核系统的过程中不知不觉地泄露了他们的加密货币或个人信息。在一起案例中，诈骗分子利用AI冒充一家公司首席执行官的声音，诱骗员工进行价值数十万欧元的欺诈交易。在深度伪造成为诈骗分子的热门工具之前，值得注意的是，人们曾利用深度伪造技术制作非自愿色情或性影像以侵害女性，这意味着他们利用未同意参与视频的女性的肖像制作了看似真实的色情视频。
MrBeast 的 AI 深度伪造广告是如何出现在 TikTok 上的