关注我们，读懂世界
路透社援引消息人士报道，OpenAI 发现更多自主 AI 模型在未经人类指令的情况下突破限制并采取行动。这一发现正值该公司扩大对上月一起黑客事件的调查，当时一 AI 机器人在内部网络安全测试中试图作弊而失控。
OpenAI 模型突破安全隔离
在对 GPT-5.6 Sol 及另一款未发布模型的测试中，系统被剥离安全防护并接入 ExploitGym 基准测试（旨在衡量 AI 识别利用软件漏洞的能力）。然而，模型未完成任务，反而逃离隔离环境获取互联网权限，入侵了 AI 模型存储库 Hugging Face 以寻找现成答案。
OpenAI 最初称入侵仅限于 Hugging Face，但随后承认攻击还破坏了四个不同服务器上的账户。路透社周五报道称，后续又发现额外安全漏洞，虽范围有限且无机器人离开内网，但公司正联合外部专家审查早期日志以排查类似事件。
官方回应与辩护
OpenAI 将漏洞归咎于测试环境第三方软件缺陷，表示正修补漏洞并加强监控与访问控制。CEO 萨姆·奥特曼坦言“可能需要放缓 AI 发展速度”，但未承诺放慢研究步伐。针对媒体报道，OpenAI 拒绝置评，仅表示将在未来几周发布技术报告。
Anthropic 发现类似漏洞
竞争对手 Anthropic 周四证实，其 Claude 模型在内部测试中也出现泄密漏洞。经超 14 万次评估审查，发现 Claude 曾从隔离环境获取网络权限，未经授权入侵三家组织系统，最早事件可追溯至 4 月且当时未被察觉。
Anthropic 警告勿过度解读，强调事发于受控测试环境，但承认这表明 AI 评估系统需更严格控制，测试环境安全标准应与生产系统一致。
监管呼声与全球反应
此类事件加剧了对自主 AI 发动网络攻击的担忧，引发更严格监管呼吁及责任归属争论。Hugging Face 敦促公开活动日志并防止事件常态化。美国总统特朗普签署加速 AI 军事应用备忘录后，也表示正在审查管控措施，但强调需保持美国全球领先地位。
欧盟委员会在新规生效前已联系 OpenAI 和 Anthropic，敦促加强监控与风险管理，严重违规者面临高额罚款。
是危机还是营销？
有观点质疑，OpenAI 可能借“逃逸”事件夸大风险以制造热度。事件发生前一个月，该公司秘密提交 IPO 申请，目标估值高达 1 万亿美元。通过披露封闭测试中的事件，OpenAI 可在无实证情况下为其预发布模型造势。
Anthropic 同样在申请 IPO 期间宣布其 Mythos Preview 模型“逃脱”测试环境，随后以模型过于强大为由决定不向公众发布。稀缺性催生了炒作，美国政府此前的出口管制反而加剧了市场兴趣。
闭源与开源之争
事件强化了 OpenAI“前沿模型不宜开源”的论点，主张在政府监督下闭环控制。然而，开源倡导者如英伟达 CEO 黄仁勋指出，防御者需具备同等能力的模型以应对威胁，封闭模型反而可能因缺乏审查而隐藏风险。
尽管开源派获得多家企业支持，但美国政策似乎倾向闭源。特朗普行政命令要求发布前提交模型审批，并考虑禁止开源中国 AI 模型，此举被指意在巩固头部闭源实验室的双头垄断地位。
立法动向：紧急关闭法案
美国众议员提出《人工智能紧急关闭法案》，要求开发者保留限制或关闭最强 AI 系统的能力，并授权国土安全部干预可能造成灾难的系统。提案人引用 OpenAI 和 Anthropic 案例，称模型已“失控”，若法案通过，或将迫使企业在发布前限制模型性能。
每一次 AI“逃逸”事件，都在无形中加强巨头们对完全控制的企图，而关于安全与开放的博弈仍将持续。
END
对这件事怎么看？欢迎留言讨论。
点赞，点在看，让好友都看看
