大数跨境

谷歌为AI生成照片新增披露标识,但初看仍不易察觉

谷歌为AI生成照片新增披露标识,但初看仍不易察觉 海外洞察
2024-10-24
1
导读:从下周开始,Google Photos 应用将在照片使用其人工智能功能(如 Magic Editor)进行编辑时,添加新的披露提示。

从下周开始,Google Photos 应用将在照片使用其 AI 功能(如 Magic Editor、Magic Eraser 和 Zoom Enhance)进行编辑时,添加新的披露信息。在 Google Photos 中点击某张照片后,滚动至“详细信息”部分底部时,将显示该照片是否“由 Google AI 编辑”的提示。

Google 表示,推出此披露旨在“进一步提高透明度”,但照片是否由 AI 编辑仍然不够明显。照片画面内仍不会带有表明其为 AI 生成图像的视觉水印。如果有人在社交媒体、短信或浏览自己的照片应用时看到经 Google AI 编辑的照片,他们无法立即察觉该图像为合成内容。

Google的新AI披露图片来源:Google

Google 周四在一篇博客文章中宣布了针对 AI 照片的新披露机制,这距离 Google 发布搭载这些 AI 照片编辑功能的全新 Pixel 9 手机仅两个多月。这些披露措施似乎是对 Google 因广泛分发缺乏人类易读视觉水印的 AI 工具而引发的批评所作出的回应。

至于 Best Take 和 Add Me——Google 其他两项不使用生成式 AI 的新照片编辑功能——Google Photos 现在也会在元数据中标记这些照片经过编辑,但不会在“详细信息”选项卡下显示。这些功能会将多张照片合并编辑成一张整洁的图片。

这些新标签并未完全解决人们对 Google AI 编辑功能的主要担忧:照片画面中缺乏视觉水印(至少是肉眼一眼就能看到的)可能有助于减少人们的受骗感,但 Google 目前并未提供此类水印。我们询问 Google 是否会考虑在其图片中添加视觉水印,对方并未排除这种可能性。

Google Photos 的公关经理 Michael Marconi 在发给 TechCrunch 的一封电子邮件中表示:“这项工作尚未完成。我们将继续收集反馈,增强和完善我们的安全措施,并评估更多解决方案,以增加对生成式 AI 编辑的透明度。”

所有经 Google AI 编辑的照片已在元数据中披露其经过 AI 编辑。现在,在 Google Photos 的“详细信息”选项卡下也提供了更易于查找的披露信息。但问题在于,大多数人在网上看到照片时并不会查看元数据或详细信息选项卡,他们只是看一眼就划走,很少进一步调查。

公平地说,AI 照片画面中的视觉水印也不是完美的解决方案。人们可以轻松裁剪或移除这些水印,然后我们又回到了原点。

Google AI图像工具的普及可能会增加人们在互联网上看到的合成内容数量,使得辨别真伪变得更加困难。Google采取的方法是利用元数据水印,依赖平台向用户提示他们正在查看由AI生成的内容。Meta已经在Facebook和Instagram上实施了这一做法,而Google表示计划在今年晚些时候在搜索中为AI图像打上标记。但其他平台的跟进速度较慢。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k