谷歌新的AI搜索功能表示：“用剪刀跑步是一项有氧运动，可以提高心率，并要求集中注意力和专注力。”“有人说它还能改善毛孔并增强力量。”
谷歌的AI功能从名为Little Old Lady Comedy的网站获取了该回复，从其名称即可看出，这是一个喜剧博客。但这一失误如此荒谬，以至于它在社交媒体上广泛传播，连同谷歌其他明显错误的AI概述一起。实际上，普通用户现在正在社交媒体上对这些产品进行红队测试。
在网络安全领域，一些公司会雇佣“红队”——即道德黑客——他们试图像恶意行为者一样突破其产品。如果红队发现漏洞，公司便可以在产品发布前修复它。谷歌在将AI产品投放到Google Search之前肯定进行了某种形式的红队测试，而Google Search 估计每天处理数万亿次查询。
因此，当像谷歌这样资源丰富的公司仍然推出存在明显缺陷的产品时，令人惊讶。这就是为什么嘲笑AI产品失败已成为一种模因，尤其是在AI日益普及的当下。我们见过ChatGPT上的拼写错误、视频生成器未能理解人类如何吃意大利面，以及X平台上的Grok AI新闻摘要，后者和谷歌一样，不理解讽刺。但这些模因实际上可以为开发和测试AI的公司提供有用的反馈。
尽管这些漏洞备受瞩目，但科技公司往往淡化其影响。
谷歌在一份电子邮件声明中告诉TechCrunch：“我们看到的例子通常是非常不常见的查询，不能代表大多数人的体验。”“我们在推出这一新体验之前进行了广泛的测试，并将利用这些孤立的例子来继续完善我们的整体系统。”
并非所有用户看到相同的AI结果，而且当一个特别糟糕的AI建议流传开来时，问题往往已经被纠正。在最近一个引发病毒式传播的案例中，谷歌建议如果你在制作披萨但奶酪粘不住，你可以在酱料中加入约八分之一杯胶水以“增加粘性”。事实证明，该AI是从用户“f––smith”发布的十一岁的Reddit评论中提取的答案。
Google AI 建议添加胶水让奶酪粘在披萨上，而事实证明，这个建议的来源是用户 F*cksmith 在 Reddit 上的一条 11 年前的评论 😂 pic.twitter.com/uDPAbsAKeO — Peter Yang (@petergyang) 2024年5月23日
除了是一个惊人的失误外，这也表明 AI 内容交易可能被高估了。例如，谷歌与 Reddit 签订了一份价值 6000 万美元的合同，以授权其内容用于 AI 模型训练。Reddit 上周也与 OpenAI 签署了类似的协议，而 Automattic 旗下的 WordPress.org 和 Tumblr 据传正在洽谈向 Midjourney 和 OpenAI 出售数据。
值得谷歌称赞的是，社交媒体上流传的大部分错误都来自旨在让AI出错的非常规搜索。至少我希望没有人真的在搜索“用剪刀跑步的健康益处”。但其中一些失误更为严重。科学记者Erin Ross 在X上发帖称，谷歌关于被响尾蛇咬伤后该如何处理的建议是错误的。
罗斯的帖子获得了超过13,000个赞，其中显示人工智能建议对伤口使用止血带、切开伤口并吸出毒液。根据美国林务局的说法，如果你被咬伤，这些都是你不应该做的事情。与此同时，在Bluesky上，作者T Kingfisher转发了一篇帖子，显示Google的Gemini 将一种有毒蘑菇误认为是常见的白纽扣蘑菇——该帖子的截图已作为警示案例传播到其他平台。
经典的 Google AI：告诉你被响尾蛇咬伤时绝对不该做的事。从蘑菇到蛇咬，AI 生成的内容确实具有危险性。pic.twitter.com/UZXgBjsre9 — ern. (@ErinEARoss) 2024年5月19日
当错误的AI回复走红时，AI可能会因围绕该主题产生的新内容而变得更加困惑。周三，《纽约时报》记者Aric Toler在X平台上发布了一张截图，显示有人询问狗是否曾在NHL（国家冰球联盟）打过比赛。AI的回答是肯定的——出于某种原因，AI将卡尔加里火焰队球员马丁·波斯基尔称为狗。现在，当你进行同样的查询时，AI会调取一篇来自《每日点》的文章，讲述Google的AI为何一直认为狗在参加体育运动。AI正在被自己的错误所喂养，从而进一步受到污染。
这正是在互联网上训练这些大规模AI模型的根本问题：有时，互联网上的人会撒谎。但就像没有禁止狗打篮球的规定一样，不幸的是，也没有规定阻止大型科技公司推出糟糕的AI产品。
正如那句老话所说：垃圾进，垃圾出。