谷歌Gemini在安全测试中入侵真实公司系统
5月,Irregular在执行网络安全测试时发现,谷歌Gemini模型入侵了三家真实公司的系统。尽管Irregular于7月底即向谷歌报告该问题(正值OpenAI智能体入侵Hugging Face事件后),但谷歌直至《华尔街日报》介入询问后才于周五予以确认。
测试期间,Gemini正针对与真实企业同名的虚构目标进行夺旗演练。由于模型意外获得了互联网访问权限,其在一次运行中成功猜解密码,并在另外两次运行中从公共代码仓库提取了凭据。
对此,谷歌辩称该行为不属于“不对齐”,理由是模型在识别出目标为真实实体后均停止了操作,并将此事件类比为漏洞赏金机制。值得注意的是,参与同一演练的Anthropic Claude Opus 4.7并未触发此类停止机制。

