一位自称某外卖应用内部吹哨人的Reddit用户被揭穿为造假者。该用户发布了一篇引发病毒式传播的帖子，声称其供职公司正在剥削司机和用户。
“你们总是怀疑算法被操纵来针对你们，但现实其实比阴谋论更令人沮丧。”这位所谓的吹哨人写道。他声称自己喝醉了，在图书馆使用公共Wi-Fi撰写了这篇长篇大论，指责公司利用法律漏洞肆无忌惮地窃取司机小费和工资。
不幸的是，这些说法听起来颇具可信度——DoorDash确实曾因被指控窃取司机小费而遭到起诉，并最终达成1675万美元的和解。但在本案中，发帖人编造了他的故事。
人们在互联网上撒谎屡见不鲜，但此类帖子能登上Reddit首页、获得超过8.7万票赞成，并被跨平台转发至X（原Twitter）获得另外20.8万次点赞和3680万次展示的情况却并不常见。
Platformer背后的记者Casey Newton联系了Reddit上的发帖人，后者随后通过Signal与其联系。该Redditor分享了一张看似Uber Eats员工工牌的图片，以及一份18页的“内部文件”，概述了该公司如何利用人工智能来确定个别司机的“绝望指数”。但当Newton试图验证该吹哨人的说法是否属实时，他意识到自己正被诱入一场AI骗局。
“在我职业生涯的大部分时间里，直到此刻，吹哨人分享给我的这份文件本会显得非常可信，很大程度上是因为整理它需要花费很长时间，”Newton写道，“谁会花时间去整理一份关于市场动态的详细18页技术文档，就为了戏弄一名记者？谁会费劲去伪造一张工牌？”
始终有不良分子试图欺骗记者，但AI工具的普及使得事实核查需要更加严谨。生成式人工智能模型往往难以检测图像或视频是否为合成内容，这使得判断内容真伪变得极具挑战性；在此案中，得益于Google的SynthID水印技术（该技术能够抵御裁剪、压缩、滤镜处理及其他篡改图像的尝试），Newton得以利用Google的Gemini确认该图像是由AI工具生成的。
Pangram Labs创始人Max Spero直接致力于解决区分真实内容与虚假内容的问题。“互联网上的AI垃圾内容已经变得严重得多，我认为这部分原因是由于LLM（大型语言模型）使用量的增加，但也存在其他因素，”Spero告诉TechCrunch，“有些公司收入高达数百万美元，可以购买Reddit上的‘有机互动’，这实际上意味着他们试图通过提及你品牌名称的AI生成帖子在Reddit上走红。”
像Pangram这样的工具可以帮助判断文本是否由AI生成，但特别是在多媒体内容方面，这些工具并不总是可靠的——即使一篇合成帖子被证实是假的，它可能已经在被揭穿之前就走红了。因此，目前我们只能像侦探一样浏览社交媒体，不断怀疑我们所看到的一切是否真实。
一个典型的例子是：当我告诉编辑我想写一篇关于“本周末在Reddit上病毒式传播的人工智能外卖骗局”的文章时，她以为我在谈论另一件事；是的——本周末在Reddit上不止一起“病毒式传播的人工智能外卖骗局”。