据《卫报》调查报道，健康专家指出Google AI概览在医疗查询回复中存在不准确或误导性内容。Google对此提出异议，称相关示例多基于不完整截图，并强调绝大多数AI概览事实准确且具帮助性。
专家质疑AI概览存在误导风险
《卫报》针对一系列健康查询进行测试，并将AI生成的摘要提交给慈善机构、医学专家及患者组织审查。多位审稿人指出，部分摘要包含错误甚至危险的建议。
具体案例引发安全担忧
英国胰腺癌协会主管Anna Jewell指出，AI建议胰腺癌患者避免高脂肪食物“完全错误”，可能危及治疗机会。心理慈善机构Mind信息主管Stephen Buckley表示，关于精神分裂症和进食障碍的AI摘要提供了“不正确且有害”的建议，可能导致患者延误求助。女性癌症慈善机构Eve Appeal首席执行官Athena Lamnisos则批评AI将巴氏涂片检查列为阴道癌检测方法是“完全错误的信息”。
结果不稳定性加剧验证难度
患者信息论坛主任Sophie Randall警告，AI概览若将不准确的健康信息置于搜索结果顶端，将对公众健康构成风险。此外，《卫报》发现重复搜索同一问题在不同时间会产生不同摘要，增加了核实信息的难度。
Google回应：数据完整且质量持续改进
Google否认了报道中的指控。发言人表示，被引用的健康类示例多为“不完整截图”，实际上这些内容链接至信誉良好的来源并建议寻求专家指导。
Google强调，绝大多数AI概览准确有用，其准确性与精选摘要等其他搜索功能相当。公司正持续进行质量改进，若发现AI误解网页内容或遗漏上下文，将依据政策采取措施。
行业背景与数据支撑
自2024年AI概览扩展以来，其准确性一直备受争议。早期曾因荒谬建议引发关注，Google随后缩小了触发范围并优化机制。
Ahrefs数据显示，医疗YMYL（Your Money Your Life）查询触发AI概览的概率显著高于平均水平。在对1.46亿个SERP的分析中，44.1%的医疗YMYL查询触发了该功能，是整体基准率的两倍以上。独立研究框架SourceCheckup也指出，即便AI提供了引用链接，许多回答仍缺乏来源的充分支持。
对出版商与搜索生态的影响
AI摘要位于排名结果之上，在健康等敏感领域，错误信息的后果尤为严重。这直接挑战了出版商多年来建立的医学专业知识权威性。同时，摘要结果的动态变化特性，也使得传统的内容验证方式面临失效风险。
未来展望
面对批评，Google曾调整过AI摘要策略。此次回应表明，Google期望AI摘要被视为常规搜索功能的一部分接受同等评判标准，而非适用特殊规则。随着医疗类查询触发率的上升，如何平衡生成式内容的效率与安全性，仍是平台亟待解决的核心议题。