OpenAI 已就“何时发布 DALL-E 3 生成图像检测工具”进行了广泛讨论,但短期内暂无定论。
OpenAI 安全与政策研究员 Sandhini Agarwal 本周接受 TechCrunch 采访时透露,尽管该分类工具准确率表现优异,但尚未达到公司设定的质量门槛。她指出,若推出可靠性有限的工具,可能对照片性质判定产生重大影响,例如误判手绘作品或误导性地标记虚假内容。
OpenAI 对该工具的预期准确率极高。首席技术官 Mira Murati 在《华尔街日报》Tech Live 大会上表示,该分类器判断未经修改的照片是否由 DALL-E 3 生成时可靠度达 99%。Agarwal 未透露具体目标值,但一份 OpenAI 博客草稿显示:当图像经过裁剪、调整大小、JPEG 压缩,或在局部叠加真实图片文字/剪贴画时,分类器仍保持超 95% 的准确率。
OpenAI 的犹豫或与过往争议有关。此前推出的 AI 文本检测器因准确率低被撤回并遭批评。此外,团队还在纠结哲学问题:何为 AI 生成图像?DALL-E 3 从头生成的作品显然属于此类,但经多轮编辑、合并及后处理滤镜处理的图像界定则较为模糊。
Agarwal 表示,目前正试图厘清上述界定问题,并迫切希望听取艺术家及相关受影响群体的意见。
随着 AI 深度伪造泛滥,多家机构正探索生成式媒体水印和检测技术。DeepMind 提出 SynthID 规范,以人眼不可见但专用检测器可识别的方式标记 AI 图像;法国初创公司 Imatag 提供的水印工具声称不受调整大小、裁剪、编辑或压缩影响;Steg.AI 则采用 AI 模型应用抗编辑水印。
然而,行业尚未就单一水印或检测标准达成共识。即便达成共识,也无法保证水印及相应检测器不会被攻破。
针对未来是否支持检测非 OpenAI 工具生成的图像,Agarwal 未作承诺,但表示将视当前工具反响而定。她解释称,目前专攻 DALL-E 3 是因技术上更易解决,“通用检测器”并非当前重点,但不排除未来探索的可能。

