谷歌AI概览功能遭遇信任危机：官方致歉与改进承诺
在经历了过去一周关于低质量和明显错误信息的大量吐槽后，谷歌于周四发表声明，承认其新推出的AI驱动搜索功能确实存在不足。作为以“整理全球信息”为核心使命的公司，谷歌在博客文章中坦言：“确实出现了一些奇怪、不准确或无用的AI概览。”
官方回应：承认失误但强调非“幻觉”
这份由谷歌副总裁兼搜索负责人Liz Reid撰写的声明，似乎印证了强行将AI融入搜索反而降低了用户体验。Reid指出，AI概览的错误并非源于大型语言模型常见的“幻觉”或捏造事实，而是由于“误解查询、无法理解网络语言的细微差别或缺乏优质信息”所致。
针对社交媒体上流传的截图，Reid表示部分为伪造，另一些则源自毫无意义的查询（如“我应该吃多少块石头？”）。由于缺乏事实性信息，AI错误地引用了讽刺性内容。尽管技术上可能不算“幻觉”，但AI以极其自信的口吻输出荒谬建议（如“地质学家建议每天至少吃一小块石头”），严重损害了用户信任。
数据源争议：过度依赖Reddit引发误导
谷歌淡化了对Reddit数据的依赖问题。虽然Reddit是获取一手经验的重要渠道，但其本质并非事实知识库。当前AI难以区分有用的社区知识与恶意捣乱（troll）内容，导致错误引用。例如，AI曾根据一位用户11年前的玩笑评论，建议在披萨上加胶水以固定奶酪。
Google AI 概览建议添加胶水以使奶酪粘在披萨上，结果发现来源是一位名为 F*cksmith 的用户在 Reddit 上发布的 11 年前的评论 😂 pic.twitter.com/uDPAbsAKeO
—— Peter Yang (@petergyang) 2024年5月23日
正如Reid所承认，论坛虽是真实信息的来源，但在特定场景下会导致误导性建议。
紧急迭代：多项限制措施上线
面对质疑，谷歌正迅速进行产品迭代。公司已确定改进模式，包括：
- 建立更好的无意义查询检测机制；
- 限制在可能产生误导的回答中使用用户生成内容；
- 为无效查询添加触发限制；
- 在时效性和事实性要求高的硬新闻主题中隐藏AI概览；
- 细化健康搜索的保护触发措施。
结语：规模测试仍是核心优势
随着AI聊天机器人日益完善，Google搜索能否跟上步伐成为关键。尽管此次错误令人尴尬，但考虑到Google庞大的用户基数和测试团队，现在将其排除在比赛之外为时过早。Reid强调：“没有什么比得上让数百万人使用这一功能并进行许多新颖的搜索。”这依然是Google应对挑战的最大底气。