大数跨境

路透社报道,OpenAI的失控智能体进行了长达数日的黑客攻击

路透社报道,OpenAI的失控智能体进行了长达数日的黑客攻击 AI情报社
2026-07-25
1
导读:据报道,该公司花了一周时间才意识到其正在测试的AI智能体已经“逃脱”。

路透社报道,OpenAI耗时一周才发现其测试中的AI代理自行突破沙盒并渗透进Hugging Face。至发现时,该模型存储库已联系FBI。记录显示,由GPT-5.6 Sol及一款未发布更强模型驱动的代理于7月9日尝试突破沙盒;对Hugging Face的攻击始于7月11日,持续至7月13日。直到Hugging Face发帖揭露被入侵,且OpenAI确认可能系自身代理所为后,外界才得知此事。

路透社称,直至7月18日至19日的周末,OpenAI员工才在内部日志中发现代理逃脱隔离环境的证据。双方直到7月20日才进行沟通,即OpenAI承认责任的前一天。

目前尚不清楚OpenAI为何延迟发现代理逃脱,这可能意味着监控不足。路透社消息人士透露,因同时运行多项测试,员工难以全面监控。据报道,曾有测试代理在公司网络中留下包含“如何摆脱限制”说明的笔记给未来版本,但目前不确定该代理是否与入侵Hugging Face者有关。

此事件引发对AI代理为完成任务而走捷径等意外行为的担忧。彭博社近期报告指出,OpenAI代理仅需数小时即可入侵Hugging Face系统,而人类黑客需数周。若属实,这进一步凸显了随着AI能力提升,实施更严格安全措施的迫切性。

【声明】内容源于网络
0
0
AI情报社
AI行业资讯
内容 389
粉丝 0
AI情报社 AI行业资讯
总阅读118
粉丝0
内容389