深度伪造技术生成的虚假内容能够逼真地模仿人的面部表情和声音语调，因此存在被恶意人士滥用的潜力。这种情况导致潜在受害者受到欺骗并造成经济损失。
香港警方表示，一名金融从业者在这样一起诈骗案中损失了2500万美元。调查显示，骗子利用深度伪造技术冒充了公司首席财务官（CFO）。
事件始于一名员工收到据称来自公司首席财务官（CFO）的邮件，该CFO在英国工作。邮件要求执行一项秘密交易。起初，员工认为这是一起诈骗企图。然而，在随后的视频会议中，对方声音和图像与CFO高度相似。
需要提醒的是，“深度伪造”（deepfake）通常指利用人工智能或机器学习技术生成的虚假或经过篡改的视频或音频记录。
香港警方指出，在这起复杂的诈骗案背后，存在一系列使用深度伪造技术的犯罪行为。在上周五举行的新闻发布会上，警方宣布逮捕了六名嫌疑人。警方表示，该诈骗计划涉及使用报告的8张香港身份证进行90次贷款申请和开设54个银行账户，时间跨度为去年7月至9月期间。
据悉，嫌疑人利用“深度伪造”技术模仿身份证上的本人，从而欺骗人脸识别系统。这起诈骗事件因员工联系公司总部而暴露。该事件表明，在金融领域，“深度伪造”技术正被视为日益增长的威胁，当局正在努力防范此类犯罪。