继 Google I/O 大会后，Google 搜索新增的 AI Overviews（AI概览）功能正式向美国用户全面开放。然而，该功能上线后出现了诸多奇怪、错误甚至无用的结果。Google 搜索主管 Liz Reid 在博客文章中承认了这一问题，并宣布已实施安全措施以提升输出准确性。
AI Overviews 的回答争议
AI概览生成的回答已成为社交媒体热点，相关截图甚至演变为网络迷因（meme）。Liz Reid 指出，部分流传图片并非真实情况。
不过，“我应该吃多少块石头？”这一病毒式传播的截图确为真实案例。Reid 解释称，该回答源于某网站的讽刺性内容。针对为何 AI 会关联该内容，她表示：
“在这些截图病毒式传播之前，几乎没有人向 Google 提出过这个问题。”
此外，AI Overview 还曾基于论坛内容建议“用胶水让奶酪粘在披萨上”。Reid 坦言，论坛虽能提供一手信息，但也常包含脱离实际的误导性建议。
除上述案例外，《华盛顿邮报》报道显示，AI Overviews 还曾错误声称巴拉克·奥巴马是穆斯林，并建议通过大量饮用尿液来排出肾结石。
尽管谷歌在推出前进行了全面测试，但 Reid 强调，数百万用户在实际搜索中的多样化体验仍带来了前所未有的挑战。
对 AI Overviews 的限制与优化
结合近期反馈，谷歌已识别出导致错误结果的规律，并据此调整 AI 模型，使其能更精准地识别幽默和讽刺内容。
同时，谷歌更新了系统限制，禁止将可能产生误导或有害的建议纳入 AI Overviews，该限制特别覆盖了社交媒体帖子和论坛等用户生成内容（UGC）。
值得注意的是，谷歌目前已停止针对特定健康话题展示由人工智能生成的回答。