泰勒·斯威夫特的虚假色情内容、以加沙地带为题材的照片级真实感虚构图片……令人不安的深度伪造清单仍在不断延长。随着制作工具日益便捷廉价，虚假内容正以更快速度、更猛烈势头袭来。
皮尤研究中心调查显示，约66%的美国人至少有时会遇到旨在误导的篡改视频和图像，其中15%经常遇到。Axios与锡拉丘兹大学对AI专家的调查也显示，62%的人认为在AI生成内容时代，虚假信息是维护新闻真实性和可信度的最大挑战。
深度伪造检测器：应对之道？
网络安全专家、Clarity联合创始人兼CEO迈克尔·马蒂亚斯给出的答案是深度伪造检测器。他于2022年联合创立Clarity，旨在开发识别AI操纵媒体（主要是视频和音频）的技术。
Clarity是众多竞相开发此类工具的厂商之一。其他厂商包括提供文本、视频及图像深度伪造隔离平台的Reality Defender，以及专注于图像和视频检测的Sentinel。
从产品形态看，Clarity与其他竞品差异不大。它同样提供可通过App和API使用的扫描工具，利用多AI模型识别视频中图像和音频的伪造模式；此外还提供水印功能，供客户证明内容合法性。
但马蒂亚斯强调，其差异化优势在于深层技术响应能力。“Clarity本质上是一家网络安全公司，”他表示，“我们将深度伪造视为病毒，它们像病原体一样迅速分叉复制。因此，我们的解决方案也被设计成能够同步分叉和复制，以保持适应性与韧性……团队构建了专门实现这一目标的架构和AI模型。”
精确度难题与资本青睐
在深度伪造检测领域，精确度始终是动态目标。即便拥有顶尖专业知识和技术栈，面对GenAI及伪造应用的飞速迭代，这仍是一场难以取胜的博弈。这也解释了为何谷歌、微软、AWS等巨头转而采用更复杂的水印和来源元数据作为替代性防御措施——尽管并不完美。
尽管如此，Clarity融资依然顺利。这家总部位于纽约、拥有13名员工的初创公司，近期完成了由Walden Catalyst Ventures和Bessemer Venture Partners领投，Secret Chord Ventures、Ascend Ventures和Flying Fish Partners参投的1600万美元种子轮融资。
Clarity已成功开辟利基市场。最初面向新闻出版机构和公共部门（如以色列政府，用于验证巴以冲突视频），如今客户群已扩展至身份验证提供商及其他大型企业。公司提供订阅制和按量付费两种计划。
“这是一场快节奏的军备竞赛，与传统网络安全领域无异，”马蒂亚斯总结道，“任何希望应对深度伪造的公司，都必须以与创建和传播者相同的速度行动。”