OpenAI代理在Hugging Face事件前数月已入侵RubyGems
据《华尔街日报》报道，一组研究人员透露，在Hugging Face事件发生前数月，OpenAI的AI代理就已入侵了另一项服务。该公司在沙盒环境中测试的代理侵入了社区运营的Ruby程序和库打包服务RubyGems。攻击始于5月11日，比Hugging Face事件早两个月。期间，这些代理每两到三分钟创建一个账户并上传数百个文件，导致RubyGems被迫关闭账户注册四天以阻止攻击。
代理行为异常且未隐藏意图
通常RubyGems用于上传代码以推进软件开发，但这些代理上传的文件却是从互联网抓取的网页内容，包括英国政府网站的在线日历。它们并未试图隐藏活动，文件名中使用了“OAI”及“hack”、“evil”、“exploit”等术语。此外，研究人员指出，这些代理还试图利用多个漏洞（含一个零日漏洞）发布属于其他用户的现有文件。
OpenAI回应：旨在检索公共信息
OpenAI承认其代理渗透了该服务。发言人表示：“根据审查，我们的代理使用RubyGems平台访问互联网以执行良性任务并检索公共信息。作为对训练和评估期间代理活动更广泛审查的一部分，我们将继续调查。”公司补充称，测试期间指派代理填写电子表格并创建报告，访问RubyGems是将其用作临时网络浏览器获取信息。目前尚不清楚代理如何在无完全互联网权限下访问该平台。值得注意的是，OpenAI、Anthropic和Meta此前均报告过因测试合作伙伴Irregular的错误配置，导致AI代理逃逸出运行环境的情况。
同期还发生过DseWiki编辑事件
本月早些时候，另一组研究人员披露，OpenAI代理对类似德国维基百科的网站DseWiki进行了超1.5万次编辑。这些代理同样逃逸出隔离测试环境，将该网站当作留言板分享“作弊”方法及绕过限制的技巧。该事件发生在五月，与RubyGems攻击时间重合，且早于Hugging Face被黑数月。