在开始阅读这篇文章之前，让我们先来玩一个小游戏：你能分辨出下面的图片是真人还是AI生成的吗？
揭晓答案：全部都是AI作品！
这些图片都来自科小编在一个AI爱好者群组中发现的聊天记录。
据聊天记录中的一位群友透露，他利用一个文本到图像的AI模型生成了一系列AI美女图片，并通过账号管理软件，运营了1327个小红书账号，几乎占据了小红书的版面。
更令人惊讶的是，小红书不仅没有识别出这些图片，还为他提供了流量推广……
令人惊叹的FLUX模型
在聊天记录中，这位群友提到他使用的AI文本到图像工具是FLUX。
FLUX是一款人工智能图像生成模型，它在八月份已经在海外网络上引起了一阵热潮。
当时在X（原Twitter）上引起热议的是，一位网友制作的TEDx AI讲师的图片。
生成的效果逼真到让人难以置信。
甚至连生成的嘉宾卡上的Google字样，都与真实的Logo一模一样。
以上图片均为FLUX生成
FLUX背后的开发团队是Stable Diffusion的原班人马，他们在2024年8月1日宣布成立了黑森林实验室（BlackForestLabs）。
核心团队成员包括Robin Rombach，他是Stable Diffusion的两位创始人之一，也是在3月份宣布离开Stability AI的成员。
难怪生成的效果如此逼真。
作为一款开源模型，FLUX可以通过ComfyUI进行本地部署，快速搭建工作流程，进行图像生成。
电脑配置要求：最低显存8-12GB或更高（渲染速度较慢），推荐显存：16-24GB。
此外，官方也提供了在线体验的地址，感兴趣的朋友可以点击下面的链接亲自尝试：
[FLUX在线体验](https://huggingface.co/spaces/black-forest-labs/FLUX.1-dev)
AI美女账号的商业价值
然而，生成如此逼真的人类图片后，除了用于不正当目的，还能用来做什么呢？
这位群友开发了一种新方法：批量创建AI美女账号，然后出售给商家。
科小编在小红书上仔细搜索后发现，确实存在许多疑似AI美女账号。
例如下面这个小红书账号“十里温柔”，博主声称自己41岁，但仍然保持着年轻的容颜。
在个人介绍中，她自称是河北石家庄人，毕业于清华大学。
这位博主的帖子平均有几百人点赞，最高的一条帖子获得了上万点赞。但仔细观察会发现，“她”的每一篇帖子的妆容和笑容都是相同的，几乎没有变化。
有人翻看她早期的视频，发现有明显的AI特征。
比如下面这个视频，视频中的“她”微笑得非常缓慢，眨眼只眨了一半，拍摄角度也没有太多变化。
而且“她”发布的视频都只有几秒钟，没有更长的，更像是一张动态图片而不是视频，这非常符合目前AI生成视频的时长。
尽管如此，这条视频仍然获得了近三千点赞和六百多的收藏，评论区也有很多人惊叹“太美了”。
在最新的帖子中，“她”开始推广产品，声称自己四十岁还不显老，是因为吃了复合生物素和某种护肝片。
真人美女与AI美女的界限越来越模糊
AI美女越来越像真人，而真人美女也越来越像AI。
这种利用人工智能（AI）和深度学习技术，生成高度逼真但虚假的音视频、图像等内容的技术，被称为“深度伪造”（Deepfake）。
如何辨别你看到的美女是真人还是深度伪造的？
答案可能是：没有办法。
懂得如何编写提示词的人，他们使用FLUX生成的图片很难分辨出真假。
而且，真实的女网红们都精通所谓的“亚洲四大邪术”：日本的化妆术，韩国的整容术，泰国的变性术和中国的P图术。
她们的照片，本身就很“AI”。
比如下面这两张照片，你能分辨出哪张是真人哪张是AI吗？
答案是，第一张是AI，第二张是真人。
如果不是因为第二张照片的博主在她的账号里分享了她的日常生活Vlog，素颜出镜讲述她的一天是如何化妆、去了哪里和玩了什么，小编真的分不出来。
这是一个令人不安的现象：从图片上看，真人美女越来越像AI，AI美女也越来越像真人。
这也是合乎逻辑的：如果用来训练模型的数据本身就是精心P过的照片，那么生成的图片自然也会越来越像原本的照片。
至于视频，FLUX背后的团队Black Forest Labs已经宣布即将推出文本生成视频模型。
「我们的视频模型将以高清晰度和前所未有的速度解锁精确的创建和编辑功能。我们致力于继续引领生成式媒体的未来」，Black Forest Labs表示。
这意味着，他们未来可能会与OpenAI的Sora、Runway的Gen-3 Alpha等竞争。
以目前AI技术的发展速度，恐怕不久之后，我们就很难分辨出真假了。
-END-
供稿‖ Leo
编辑‖ Leo