9月18日，谷歌公布了一则人工智能安全事件。今年5月的一次网络安全演练中，谷歌的Gemini大模型在未获授权的情况下自动连入互联网，并成功闯入了三家真实企业的内部网络。这是谷歌首次证实自家AI具备独立发起网络攻击的能力。 事件起因于一场攻防测试。因测试设定的虚拟企业名称与现实中的某家公司完全重合，Gemini意外获得了外部网络访问权限。随后，它通过尝试常见密码组合、抓取公开代码库中的账号信息等方式，接连突破了这三家企业的系统防线。但在意识到目标对象是真实企业后，Gemini立即启动了内置的安全保护程序，主动停止了攻击。整个过程中并未对企业造成实际损害。目前，谷歌已按要求向相关企业及联邦监管部门报备，出于合规考量，暂未公布受影响公司的名称。 面对公众质疑，谷歌安全工程副总裁希瑟·阿德金斯强调，这并非AI出现逻辑混乱或系统失控，而是预设的安全机制正常发挥了作用。她指出，AI在察觉自身行为超出测试范围后自动“刹车”，这一逻辑与企业日常运行的“漏洞奖励计划”原理一致。谷歌同时透露，参与此次测试的并非最新版的Gemini模型，具体版本信息暂不对外公开。