大数跨境

DeepMind与Google Cloud合作,为AI生成的图像添加水印

DeepMind与Google Cloud合作,为AI生成的图像添加水印 海外洞察
2023-08-29
2
导读:谷歌DeepMind(谷歌的研究部门)与谷歌云合作,推出了一款用于AI生成图像的新型水印工具。

Google DeepMind 推出 SynthID:专为 Imagen 图像设计的 AI 水印工具

Google DeepMind 联合 Google Cloud 推出了 AI 生成图像水印识别工具 SynthID。目前该工具处于测试阶段,仅限 Vertex AI 平台部分用户使用,且仅支持 Google 文生图模型 Imagen。

SynthID 将数字水印直接嵌入图像像素中,人类肉眼不可见但可被算法检测。此举在 Google 此前承诺嵌入元数据的基础上更进一步,旨在帮助公众识别 AI 生成内容,防止虚假信息传播。

图片来源: DeepMind

DeepMind 表示,SynthID 由其与 Google Research 联合开发。即使图像经过滤镜、调色或高度压缩等修改,水印依然保留。该工具利用两个联合训练的 AI 模型分别负责加水印和识别,虽无法达到 100% 置信度,但能有效区分图像“可能”或“极有可能”包含水印。

尽管并非完全免疫极端篡改,SynthID 为负责任地使用 AI 提供了有前景的技术方案,未来也有望扩展至音频、视频及文本等领域。

AI 艺术水印技术已有先例,如法国初创公司 Imatag 和 Steg.AI 均提供过抗编辑水印工具。但随着监管压力增大,科技巨头正加速布局:中国国家网信办已要求生成式 AI 服务商标记内容;美国参议院听证会也强调了透明度必要性;微软承诺使用密码学方法加水印;Shutterstock、Midjourney 及 OpenAI DALL-E 2 等也已采用相应标识措施。

然而,通用的水印创建与检测标准仍难以确立。目前 SynthID 仅适用于 Imagen 模型。DeepMind 计划未来向第三方开放该技术,但在缺乏护栏的开源 AI 图像生成器领域,其实际 adoption 仍面临不确定性。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14179
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读975
粉丝0
内容14.2k