Flo Crivello在监控其公司Lindy开发的AI助手输出时，注意到了一些异常情况。一位新客户向Lindy AI助手请求视频教程以更好地理解平台使用方法，AI也相应提供了回复——但Crivello随即意识到出了问题，因为根本不存在这样的视频教程。
“我们看到了这个情况，心想：‘好吧，它发了什么类型的视频？’然后才反应过来：‘哦，天哪，这是个问题。’”Crivello对TechCrunch表示。
AI发送给客户的视频实际上是Rick Astley于1987年发行的舞曲热门歌曲《Never Gonna Give You Up》的音乐录影带。通俗地说：这位客户被AI“瑞克摇”了。
网络恶作剧如何影响AI模型
瑞克摇是一个已有超过15年历史的恶作剧模因。在一次使其广为人知的事件中，Rockstar Games在其网站发布了备受期待的《Grand Theft Auto IV》预告片，但因访问量过大导致网站崩溃。部分用户设法下载并将视频发布到YouTube等平台分享链接，但一位4chan用户借机恶作剧，分享了Rick Astley《Never Gonna Give You Up》的链接。十七年过去，人们仍会在不合时宜的时刻通过分享这首歌捉弄朋友——如今该音乐录影带在YouTube上的播放量已超过15亿次。
这种网络恶作剧如此普遍，以至于像ChatGPT这样的大型语言模型（为Lindy提供技术支持）也受到了影响。
“这些模型的运作方式是尝试预测最可能的下一个文本序列，”Crivello说，“所以它会先想：‘哦，我要给你发个视频！’那么接下来最可能的是什么？YouTube.com。然后再接下来呢？”
Crivello告诉TechCrunch，在数百万次响应中，Lindy只让客户被Rickroll了两次。尽管如此，这一错误仍需修复。
“关于这个AI新时代真正令人惊叹的是，要修复这个问题，我只需要添加一行所谓的系统提示语——即包含在每个Lindy实例中的提示语——内容是：不要Rickroll别人。”他说。
互联网文化渗入AI训练的隐忧
Lindy的这一失误引发了人们对互联网文化有多少会被纳入AI模型的质疑，因为这些模型通常是在网络海量内容上进行训练的。Lindy意外进行的瑞克摇之所以尤为引人注目，是因为AI有机地复现了这种非常具体的用户行为，从而影响了它的幻觉生成。但互联网幽默的痕迹也以其他方式渗入AI中，Google就在此事上吃了苦头——因其获得了Reddit数据的授权用于训练AI。作为用户生成内容的中心（其中许多内容是讽刺性的），Google的AI最终告诉一位用户可以通过添加胶水让奶酪更好地粘在披萨面团上。
“在谷歌的案例中，它并不是完全在胡编乱造，”Crivello说，“它是基于内容生成的——只是那些内容质量很差。”
AI纠错机制正逐步完善
随着大型语言模型迅速进步，Crivello认为未来这类失误会减少。此外，他表示现在修复这些问题比以往任何时候都更容易。在Lindy的早期阶段，如果其某个AI助手无法完成用户请求的任务，AI会说正在处理，但永远不会交付结果。（奇怪的是，这听起来相当人性化。）
“当时我们很难修复那个问题，”Crivello说，“但当GPT-4发布后，我们只是添加了一条提示语：‘如果用户要求你做一些你做不到的事情，直接告诉他们你做不到。’这样就解决了问题。”
目前的好消息是，那位被Rickroll的客户可能甚至都没有察觉。
“我甚至不确定客户是否看到了那个链接，”他说，“我们立即跟进道：‘哦，嘿，这是正确的视频链接。’而客户对第一个链接没有任何反应。”