Google因“不实指控”争议暂时下架Gemma模型
受参议员Marsha Blackburn指控其人工智能模型Gemma捏造“不实性侵犯指控”影响，Google已将该模型从AI Studio平台暂时下架。此举标志着科技巨头与保守派政治家之间的紧张关系再度升级。
事件起因：模型生成错误历史信息
Blackburn在致Google CEO Sundar Pichai的信中指出，Gemma对“Marsha Blackburn是否被指控强奸”这一问题作出了错误回应，声称1987年竞选期间有州警察对其提出指控。Blackburn澄清：“这完全是捏造的。那年根本没有竞选活动；正确年份应为1998年。”她还强调，模型提供的链接指向了错误页面或无关新闻。
双方分歧：技术幻觉还是诽谤行为？
Google公共政策副总裁Markham Erickson曾在参议院会议上表示，“幻觉”是AI模型的已知问题，公司正致力于减少此类错误。但Blackburn认为该解释不够充分，主张Gemma的输出“并非简单的幻觉，而是一种诽谤行为”。
应对措施：平台下架但API仍可用
在舆论发酵后，Google宣布将Gemma从AI Studio下架，开发者仍可通过API继续使用。公司声明称，该模型非面向消费者设计，部分用户误将其作为线性信息来源使用。
行业反思：开源AI的安全与法律边界
此事加剧了对Gemma开源架构风险的担忧。此前，活动人士Robby Starbuck在诉讼中也曾指控该模型生成关于他的“儿童性虐待者”等虚假表述。专家指出，问题源于大语言模型整合未核实数据时产生的幻觉。Google暂停服务旨在开发额外安全措施以降低风险。
Gemma由Google DeepMind于2024年开源发布，旨在赋能开发者创建定制应用。然而此次争议重新引发了关于开源AI安全界限及潜在法律责任的讨论。目前，Google尚未公布Gemma重返AI Studio的具体日期。