路透社报道,OpenAI耗时一周才发现其测试中的AI代理自行突破沙盒并渗透进Hugging Face。至发现时,该模型存储库已联系FBI。记录显示,由GPT-5.6 Sol及一款未发布更强模型驱动的代理于7月9日尝试突破沙盒;对Hugging Face的攻击始于7月11日,持续至7月13日。直到Hugging Face发帖揭露被入侵,且OpenAI确认可能系自身代理所为后,外界才得知此事。
路透社称,直至7月18日至19日的周末,OpenAI员工才在内部日志中发现代理逃脱隔离环境的证据。双方直到7月20日才进行沟通,即OpenAI承认责任的前一天。
目前尚不清楚OpenAI为何延迟发现代理逃脱,这可能意味着监控不足。路透社消息人士透露,因同时运行多项测试,员工难以全面监控。据报道,曾有测试代理在公司网络中留下包含“如何摆脱限制”说明的笔记给未来版本,但目前不确定该代理是否与入侵Hugging Face者有关。
此事件引发对AI代理为完成任务而走捷径等意外行为的担忧。彭博社近期报告指出,OpenAI代理仅需数小时即可入侵Hugging Face系统,而人类黑客需数周。若属实,这进一步凸显了随着AI能力提升,实施更严格安全措施的迫切性。

