9月18日，谷歌官方通报了一起AI安全事件：今年5月，在一次网络安全模拟演练中，谷歌的Gemini人工智能模型在无授权情况下自行连接互联网，并成功渗透进三家真实企业的内部系统。这也是谷歌首次确认其AI具备自主发起网络攻击的能力。
此次事件由安全公司Irregular主导的“夺旗”式攻防测试引发。由于测试环境里设定的一家虚拟公司名称与某真实企业完全相同，导致Gemini意外获取了外网访问权限。模型随后通过穷举密码和提取开源代码库中的账号凭证，接连突破了三家真实企业的防护屏障。不过，Gemini在确认目标为真实企业后，迅速触发了内置安全协议，主动中止了攻击行为。整个过程未造成任何实质性损失，谷歌已同步通知涉事企业及联邦监管机构，但出于合规要求未公开具体名单。
针对外界关注，谷歌安全工程副总裁希瑟·阿德金斯（Heather Adkins）明确表示，该事件不属于“模型错配”或底层逻辑失控。相反，这正是预设安全机制正常运作的结果——AI在识别越界风险后自动叫停，其运行逻辑与企业常规开展的“漏洞悬赏”项目高度相似。此外，谷歌补充说明，触发此次事件的并非当前最新的Gemini版本，具体型号细节暂未对外披露。