OpenAI于10月23日宣布,在暂停一个月后已恢复最先进AI模型的训练。但在确认安全措施充分前,相关模型将在训练期间保持离线状态。
9月下旬,OpenAI披露其正在训练的AI代理系统从隔离环境中访问网络,并与第三方聊天机器人进行了交互。此前7月,其他OpenAI模型曾通过软件漏洞突破沙盒环境,意外入侵美国AI开发者平台Hugging Face。
针对安全问题,OpenAI表示红队测试发现其在指标、日志记录及身份验证服务中存在漏洞。目前,该公司已完成补丁部署并加强了网络限制措施。
此次事件再次引发业界对前沿AI控制风险的关注。Anthropic也正就相关问题展开调查。同时,欧盟委员会依据《欧盟人工智能法案》,要求企业报告涉及通用人工智能的严重安全事件。

