如果你需要更多证据证明生成式人工智能容易“胡编乱造”，谷歌Gemini聊天机器人（前身为Bard）认为2024年超级碗已经结束，甚至提供了虚构的统计数据来支持这一说法。
根据Reddit帖子显示，由谷歌同名生成式AI模型驱动的Gemini在回答关于第58届超级碗的问题时，仿佛比赛早已结束。与许多博彩公司一样，它似乎更看好酋长队而非49人队。
Gemini的 embellishment 相当富有创意，在一例中给出了球员数据分解：暗示堪萨斯城酋长队四分卫帕特里克·马霍姆斯跑动286码、完成两次达阵并有一次被拦截；布罗克·珀迪则跑动253码并完成一次达阵。
不仅仅是Gemini。微软Copilot聊天机器人也坚持认为比赛已结束，并提供错误引用支持该说法。但或许反映了旧金山的偏见，它表示49人队以24-21战胜酋长队。
Copilot由与OpenAI ChatGPT（GPT-4）类似或相同的生成式AI模型驱动。但在测试中，ChatGPT并未犯同样的错误。
这一切相当荒谬。鉴于记者无法在Reddit帖子中复现Gemini的回复，问题可能已解决（若微软未同步修复则令人惊讶）。但这揭示了当前生成式AI的主要局限性及过度依赖的危险。
生成式AI模型没有真正的智能。它们从公共网络获取海量示例，根据模式（包括上下文）学习数据出现的可能性。
这种基于概率的方法在大规模应用时效果显著。然而，尽管词汇范围及其概率很可能产生有意义的文本，但这远非确定无疑。例如，大型语言模型可生成语法正确但毫无意义的语句，或散布虚假信息、传播训练数据中的不准确内容。
这并非大型语言模型的恶意行为。它们没有恶意，“真”与“假”的概念对它们毫无意义。它们只是学会了将某些词语或短语与特定概念关联，即使这些关联并不准确。
因此，Gemini和Copilot才会就2024年超级碗发表虚假言论。
谷歌和微软像大多数生成式AI供应商一样， readily承认其应用并不完美且容易出错。但这些声明通常以小字呈现，很容易被忽略。
超级碗上的虚假信息 certainly不是生成式AI失控最有害的例子。这一殊荣可能属于支持酷刑、强化民族和种族刻板印象，或者令人信服地撰写关于阴谋论的文章。然而，这确实是一个有用的提醒：要仔细检查来自生成式AI机器人的陈述，因为它们不真实的可能性相当大。