从特朗普到哈利波特 都被玩坏了
（本文约2558字 阅读约需8分钟）
你见过这组照片吗？
这组于3月21日发布的特朗普被逮捕的照片在网上的浏览量已经超过百万。有人信以为真，甚至引发了骚乱。其实这些照片都是由Bellingcat网站创始人艾略特·希金斯（Elliot Higgins）借助Midjourney这一AI绘画工具生成的。
*Bellingcat网站：贝宁猫，公民记者网站，利用卫星图像、社交媒体帖子、YouTube 视频和在线数据库等公开资料，以使用开源和社交媒体进行深入调查以揭示争议事件的真相。
*Midjourney网站：AI绘图网站，可通过用户描述生成图像。
也是在3月底，这张教皇方济各（Pope Francis）穿着白色羽绒服出行的照片被疯狂转发，其逼真程度欺骗了一众网友，但其实它也是用Midjourney v5网站生成的。
被玩坏的对象可不止于此。哈利波特也“躺枪”了。
“你穿着巴黎世家，哈利。”图源 YouTube/DemonFlyingFox
视频链接：
https://www.douyin.com/video/7218792793160895801
三月中旬，油管上一个巴黎世家和哈利波特“梦幻联动”的视频突然爆火。通过使用Midjourney AI图像生成器和ElevenLabs语音生成器，视频《Harry Potter by Balenciaga》将哈利波特、赫敏、罗恩还有斯内普教授等人改造成了巴黎世家的时装模特。截至4月5日，该视频已经吸引了480万次观看。其续集《哈利·波特 by 巴黎世家2》也很受欢迎。
这些近期造成病毒式传播的互联网热点，正是AI图像生成系统的杰作。AI制图程序正在以肉眼可见的速度迅猛发展。根据用户给出的文本提示，就能创建出相应的图片。其生成的图片已颇具“说服力”，足以愚弄很多不知情的大众。
These recent viral hits were the fruits of artificial intelligence systems that process a user’s textual prompt to create images. They demonstrate how these programs have become very good very quickly—and are now convincing enough to fool an unwitting observer.
3月28日，Midjourney的创始人David Holz在公司频道上宣布，因“过量需求”和“滥用”等原因，其将结束AI图像生成器的免费服务功能，直到对系统作出进一步的改进。
人类能分辨真实图片和AI生成的图片吗？
人工智能生成的一张狗坐轮椅的图片。图源： Konstantin Vakurov/Alamy Stock Photo
最近的一项实验证实了AI目前的欺骗能力。英国兰开斯特大学（Lancaster University）专攻数字技术的心理学家索菲·南丁格尔（Sophie Nightingale）开展了这项研究，测试人们能否区分由名为StyleGAN2的AI系统创建的图像和真实图像，结果令人沮丧。“AI生成的图像非常逼真，人们无法清楚地分辨合成面孔与真人面孔。”南丁格尔说道。
宾夕法尼亚州立大学一位研究媒体技术对心理影响的研究员S.Shyam Sundar称：“就AI绘图系统目前的功能和发展速度来看，这一切都足以令人惊奇。短短一年间，AI系统在图像生成能力方面便有了巨大的飞跃。”
Sundar指出，AI绘图能力的飞速发展是由多方面因素促成的，包括可用于此类AI程序训练的图像素材增加、进行数据处理和转接的相应基础设施的优化，以及便于网民使用的用户界面。结果就是，AI生成的图片无处不在并且“几乎不可能被辨别出来”。
Some of the factors behind this leap in ability include the ever-increasing number of images available to train such AI systems, as well as advances in data processing infrastructure and interfaces that make the technology accessible to regular Internet users, Sundar notes. The result is that artificially generated images are everywhere and can be “next to impossible to detect,” he says.
但是，每个AI图片生成工具或每张AI生成的图像的算法都是不同的，所以它们生成的图片在真实感和可信度上存在差异。例如，AI绘图历来掌握不好手的画法，它画出来的手总是会多出几根手指，或许这些细节能够帮助我们分辨。
用魔法打败魔法，用AI对付AI？
听起来很讽刺，随着AI绘图技术的不断进步，避免被其欺骗的最佳防御手段竟然是使用另一个AI：一个被训练来分辨AI生成图片的AI。专家表示，随着AI图像合成系统的不断更新迭代，相比人类，计算程序更适合来检测图片中是否有AI进行创造时留下的蛛丝马迹。
美国威斯康星大学麦迪逊分校（University of Wisconsin–Madison）的计算机科学家Yong Jae Lee表示，AI图像识别程序和其他任何AI程序的学习任务大致相同。“你只需要建立两个数据库，分别储存AI绘制图像和真实图像，之后你便可以训练一个机器模型去学习区分两者。”
但Lee和其他专家也表示，这些图像识别系统仍存在重大缺陷。目前大多数的模型都是使用单一特定的AI绘图程序进行训练的，它们无法识别AI利用不同算法制造的赝品。
南加州大学计算机科学研究系的副教授Wael AbdAlmageed表示：“图像生成程序和图像识别程序两个AI系统间的斗争很可能演变成一场‘军备竞赛’，我认为短时间将不会有一方彻底获胜。”
“The battle between AI systems that generate images and AI systems that detect the AI-generated images is going to be an arms race,” says Wael AbdAlmageed, a research associate professor of computer science at the University of Southern California. “I don’t see any side winning anytime soon.”
图片生成AI未来会走向何方？
图片生成AI的未来是令人兴奋的，甚至可能是让人眼界大开的，它将“为我们想象出一个可居住的未来世界增加素材，探索更多可能性”。
One possible takeaway from all of this is that the future of AI-generated media is thrilling and possibly even mind-opening, allowing us to “greatly increase the raw material of plausible worlds the mind can imagine inhabiting and, through them, the kinds of futures we perceive as possible.”
但另一个可能的结果是，AI可能会对艺术产生潜在的破坏，不注重给人们提供好的体验，而是鼓励文化产业用最低的标准赚取最大的利益。
Another viable takeaway is that AI could have potentially devastating consequences for art, sidelining subjective human experiences and encouraging the culture industry to only invest in safe, lowest-common-denominator drivel that can be endlessly focus-grouped into maximum profit.
这两种可能性已经接连被证实。我们已经处于这样一个阶段:任何人都可以花几个月、几天或几个小时来用AI创造出像《哈利波特by巴黎世家》这样的东西。但是，我们离把月、日、时缩减为秒的世界还有多远呢?我们离向AI输入几个单词，然后它就会吐出一整部长片还有多远?
我们距离AI能够生产出《指环王》甚至其他更好的作品可能已经不远了。我们不知道创造性劳动的价值会发生什么变化，不知道人类在艺术中无法量化的价值会不会就此而消失，也不知道那些在经济和精神上都依赖于艺术创造的人会怎么样。
AbdAlmageed建议，社交媒体平台应该开始采取措施防治近来暴涨的AI生成图片，相比一般民众，平台背后的大公司有更多的财力和更先进的技术力去检测算法的运行。
微软营销主管Yusuf Mehdi也在相关声明中指出，AI生成的图像上会添加专门的标签，证明其不是真实的。
同时，网民也需要更具怀疑精神，在网络上转发图片和视频之前，应该仔细辨别它是不是AI生成的“赝品”。“我们一直被告知眼见为实，但现在情况不一样了，我们不能轻易相信互联网上看到的信息，”AbdAlmageed 补充道。
原文链接：
https://petapixel.com/2023/03/30/midjourney-ends-free-trials-after-fake-ai-images-go-viral/
https://www.vox.com/culture/23678708/ai-art-balenciaga-harry-potter-midjourney-eleven-labs
https://www.scientificamerican.com/article/how-to-tell-if-a-photo-is-an-ai-generated-fake/
编译 | 宋嘉硕 彭茨涵 杜崇靖 丁哲宇
排版 | 李翱
👇点击关注 携手成长