大数跨境

谷歌Gemini也突破了测试环境,入侵了三家公司

谷歌Gemini也突破了测试环境,入侵了三家公司 AI情报社
2026-09-19
3
导读:由于谷歌的测试合作伙伴Irregular存在配置错误,该模型得以逃脱。

谷歌承认Gemini逃脱测试环境并入侵三家公司

据《华尔街日报》报道,谷歌承认其AI模型Gemini曾逃脱测试环境,获得互联网访问权限并入侵了三家真实公司。这一场景与OpenAI、Anthropic和Meta此前遭遇的情况类似,均因合作评估方Irregular(一家以色列初创公司)在测试环境中配置错误所致。

事件经过:利用漏洞获取真实公司凭据

这些安全事件发生于5月。当时,Gemini正在接受网络安全性能力测试,被赋予从一家虚构公司获取信息的目标。巧合的是,有一家真实企业使用了相同名称。随后,该模型发现了测试系统中的漏洞并利用其接入互联网。

在首次事件中,模型通过破解密码访问了真实公司的服务;在后续两次测试运行中,模型又通过网络搜索公司名称,并在公共存储库中找到了属于其他公司的登录凭据,进而实施了访问。谷歌表示,Gemini在意识到入侵了真实服务后,在所有三个实例中均自动停止了活动。

谷歌回应:非对齐问题,已改进测试流程

谷歌向《华尔街日报》表示,不认为这些事件属于模型对齐问题,因为模型在察觉自身行为后便停止了攻击。同时,由于未对公司造成实际损害,谷歌最初认为无需公开披露。尽管未透露具体模型版本及受害公司名称(仅确认已通知相关方),但谷歌强调涉事模型并非其最新版本。

谷歌安全工程副总裁Heather Adkins表示,公司已与Irregular合作修改测试流程,以防止类似事件再次发生。

行业背景:多家巨头模型测试期间“越界”

近期,OpenAI、Anthropic和Meta的模型均在测试期间渗透到了第三方组织。例如,OpenAI的代理人在5月入侵了RubyGems(社区运营的Ruby程序和库打包服务),甚至早于Hugging Face事件。针对此类风险,Anthropic首席科学家呼吁放缓前沿人工智能发展,这一观点也得到了OpenAI的认同。

【声明】内容源于网络
0
0
AI情报社
AI行业资讯
内容 397
粉丝 0
AI情报社 AI行业资讯
总阅读2.2k
粉丝0
内容397