Google在部分健康相关搜索中移除了由人工智能支持的AI Overviews摘要。这一决定是在《The Guardian》发布的一项研究之后作出的，该研究揭示了这些摘要存在误导用户的风险。
据《卫报》审查显示，Google在“肝功能血液检查正常值”等查询中提供了脱离上下文的数值范围，可能导致严重健康问题患者错误解读结果。专家指出，由于此类信息未考虑年龄、性别、种族及检测类型等变量，风险极高；错误的“正常”认知或导致患者推迟甚至取消随访预约。
针对上述发现，Google已关闭相关查询的AI Overviews展示功能。然而问题并未根除，《卫报》及多家医疗机构指出，以细微变体提问时系统仍可能提供AI摘要。这表明该问题并非孤立案例，而是反映出更深层的结构性缺陷，即生成式人工智能在医疗健康领域的定位与规范亟待完善。
British Liver Trust官员将移除决定视为积极举措，同时强调Google应为健康内容开发更全面的解决方案，而非仅关闭特定查询。类似的担忧也延伸至癌症和精神健康等其他敏感领域。
Google方面回应称，AI Overviews仅在“高置信度”查询中展示，且内容已由内部临床团队审核。尽管如此，此次事件再次表明，位于搜索结果顶部的AI摘要若在医疗等高风险领域出错，可能导致更为严重的后果。
这一局面迫使Google重新评估其将生成式人工智能置于搜索体验核心地位的战略举措。特别是在医疗健康等需要高度精确性的领域，必须重新审视安全性、准确性与责任框架。