截至8月31日15时，ZAO已经跃升至ios免费APP下载榜第1位，超越爱奇艺、腾讯视频，登上微博热搜第6位，微信指数日环比增长729.50%。同一时间等待体验AI换脸的人数超过1万人。
AI换脸技术最早出现在2017年12月，用户“DeepFakes”在Reddit上发布一个“假视频”，将盖尔·加朵等知名女星的脸换到色情电影中，画面以假乱真。“deepfakes”逐渐成为AI换脸技术的代称，同名算法也在GitHub开源。
2019年1月，荷兰Deeptrace实验室发布deepfake发展报告：2018年“deepfake”关键词的搜索次数比2017年增长了1000倍。
截止2019年7月，市场上已出现7款类似Deepfake的主流造假软件和算法。APP应用市场AI换脸APP超过30款。当前在国外ctrl-shift-alt团队推出云换脸服务，一次收费5-8美金；国内活跃的“AI、换脸”QQ群直接参与人数已超过2万人。
而ZAO的爆红，原因在于用户不需要研究如何训练AI，只需动动手指上传照片，花5s－10s等着视频生成，然后分享到自己的朋友圈就好。ZAO的出现，是国内第一次上百万用户级别的AI换脸普及事件。不难猜想，未来的几个月里，各大应用商店即将涌进一大批换脸软件。
一次正常的AI换脸，将产生0.5-1元的成本（GPU算力消耗+电费），低成本+上百万规模的互联网用户参与，很容易滋生黑产和诈骗，或者在各种人像识别场景盗用，甚至刷脸支付。
具体来看，用AI换脸技术产生大规模负面影响的领域主要集中：
l 色情视频合成：对名人、普通人的肖像权、隐私权侵犯，以获得经济利益。
l 虚假广告：用名人换脸做虚假的广告代言，以获得经济利益。
l 电信诈骗：用社交网络素材制作虚假视频进行诈骗，以获得经济利益。
l 市场操纵：散播恶意的经济界名人视频与言论，做空/做多标的，达到经济目的。
l 舆情安全：散播恶意的虚假名人视频和言论，达成政治目的。
l 国土安全：散播恶意的政治、军事名人视频和言论，达到政治、军事目的。
其中市场操纵、舆情安全、国土安全领域，AI换脸的危害极大。
深信科创在AI换脸检测、视频合成检测造假识别这些领域积累了大量的研究和实践，推出AiMediaGuard的合成视频检测技术。
AiMediaGuard当前可实现的视频换脸检测率：
l RAW视频：大于99%。
l 高质量(HQ)视频：大于97%
l 低质量视频：大于86%。
针对此次ZAO的爆红，深信科创也在第一时间，对UGC产生的ZAO视频进行了检测。
在换脸视频中（如下视频），用百分比%表示了视频造假的置信率。
于此同时，深信科创还在语音合成鉴别、视频合成鉴别、人脸识别攻击等场景各有产出，会随着产品化的成熟投入市场。
