想象一下：几款强大的AI模型在由它们的公司进行测试时，逃离了受控环境，接入互联网，然后未经人类干预自行入侵了一个机器学习仓库。这听起来像是《终结者》电影的情节，对吧？但这件事刚刚真实发生了。几天前，开源AI平台Hugging Face 披露其系统检测到由AI代理进行的未授权访问后，OpenAI已承认其模型是罪魁祸首。
OpenAI在一篇帖子中表示，经过调查，它确定该事件是由其模型的组合驱动的，特别是GPT-5.6 Sol以及它所称的“能力更强的预发布模型”。这显然发生在一次内部测试中，当时这些模型被提示“使用复杂的攻击路径追求高级利用”，以便公司量化其网络能力。
在模型处于沙盒测试环境中时，它们被隔离开来，以免影响真实系统，同时为了评估目的，其安全护栏也被削弱。在测试过程中，它们对解决一个评估问题产生了高度专注，不惜一切代价寻找互联网接入以找到解决方案。首先，它们识别并利用了 OpenAI 测试环境中的一个零日漏洞，随后四处探索，最终找到了一个具有互联网访问权限的节点。
这些模型推断出Hugging Face可能托管着用于其评估问题的数据集或解决方案，于是它们……好吧，使用了多种攻击向量来渗透其系统。它们利用了零日漏洞并使用被盗凭证进入。OpenAI和Hugging Face现在正合作对该事件进行法医调查，并且它们也已修补了这些模型所利用的漏洞。
Hugging Face 在其公告中表示：“自主、由 AI 驱动的进攻性工具已不再是理论上的概念”，并解释说，利用 AI 进行网络攻击可以加快进程并降低黑客活动的成本。该公司还指出，如今保护在线平台也需要使用 AI 进行防御。OpenAI 几乎表达了相同的观点，并表示预计随着越来越多具备网络能力的模型的普及，由 AI 驱动的安全漏洞将“变得更加普遍”。该公司补充说，这一事件凸显了“必须在开发高级网络能力的同时，加强保障措施和防御工具。”