11月29日，国家网信办、文旅部和广电总局等三部门联合发布了《网络音视频信息服务管理规定》，明确对利用AI 技术合成虚假音视频现象进行监管，要求信息内容服务商“部署应用违法违规音视频以及非真实音视频鉴别技术”，防止“新型谣言”的传播。这是国内第一个针对“AI换脸”、“AI多媒体合成”的监管规定。新规定也将从2020年1月1日起开始施行。
第十二条明确规定信息服务提供商部署
“非真实音视频鉴别技术”
深信科创作为国内第一家推出“AI换脸”检测技术的公司，旗下AiMediaGuard反换脸检测平台准确率已达到97%以上，并应用于某知名互联网银行的人脸验证、支付环节，可以检测市面上绝大多数AI合成技术所产生的假人脸、假图片、假视频。
AI换脸技术最早出现在2017年12月，用户“DeepFakes”在Reddit上发布一个“假视频”，将盖尔·加朵等知名女星的脸换到色情电影中，画面以假乱真。“deepfakes”逐渐成为AI换脸技术的代称，同名算法也在GitHub开源。
2019年1月，荷兰Deeptrace实验室发布deepfake发展报告称， “deepfake”关键词的搜索次数近一年来增长了1000倍。
而得益于Deepfake技术的低成本和开源，截止2019年7月，市场上已出现超过7款类似Deepfake的主流AI合成软件和算法库。9月份随着“ZAO” APP的一夜爆火，AI换脸APP更是获得了超过上百万互联网用户的参与，直接推动了“AI换脸”技术在国内互联网用户中的普及。
据不完全统计，国内现有活跃的“AI、换脸”QQ群、论坛、网商，直接参与人数已超过10万人，国外有团队更是推出了“云换脸”服务。
当前一次普通的AI换脸，只需要0.5-1元的成本（GPU电力消耗和折旧），低成本+易操作，使得大规模互联网用户参与成为可能，很容易滋生黑产和诈骗。网络上已经出现针对政治人物、公众人物的AI换脸事件。
利用AI换脸技术扮演TFBOYS成员王源向粉丝收钱、收礼物事件
具体来看，用AI换脸技术产生大规模负面影响的领域主要集中在：
l 色情视频合成：对名人、普通人的肖像权、隐私权侵犯，以获得经济利益。
l 虚假广告：用名人换脸做虚假的广告代言，以获得经济利益。
l 社交诈骗：用社交网络素材制作虚假视频进行诈骗，以获得经济利益。
l 人脸识别：用已泄露的人脸数据进行特定合成，尝试解锁、支付、身份验证等业务。
l 市场操纵：恶意散播名人虚假视频与言论，做空/做多标的，达到经济收益。
l 舆情安全：恶意散播名人虚假视频与言论，达成控制舆情的的目的。
l 国土安全：恶意散播政治、军事人物虚假视频和言论，达到政治、军事目的。
其中人脸识别、市场操纵、舆情安全、国土安全等领域，AI换脸和合成技术的危害极大。
深信科创AiMediaGuard“支付级”的反换脸检测技术
深信科创是国内首家推出“AI换脸”“AI合成”检测技术的公司，已经在AI换脸检测、视频合成检测、语音合成检测、造假识别等领域积累了大量的研究和实践，旗下已推出AiMediaGuard视频合成检测平台，综合检测的准确率已达到97%以上，已应用于某知名互联网银行的人脸验证、身份识别等环节。
AiMediaGuard在综合测试中可实现的视频换脸检测率：
l RAW视频：大于99%。
l 高质量(HQ)视频：大于97%。
l 低质量视频：大于86%。
深信科创公众号也特别对接开启了AI换脸检测平台。读者可以上传感兴趣的图片和视频来体验尝鲜（检测结果中用百分比%表示了视频造假的置信率）。
AiMediaGuard试用版尝鲜
于此同时，深信科创还在语音合成鉴别、视频合成鉴别、人脸识别攻击等场景各有产出，会随着产品化的成熟投入市场。
阅读原文，查看《网络音视频信息服务管理规定》通知原文
