8月7日，OpenAI投下一枚重磅炸弹：因下一代模型Astra在网络安全领域达到“关键级”风险，公司决定暂停该模型的部分研发工作。
这是第一次，OpenAI因为害怕自己的东西太危险，主动把它锁了起来。
我花了好一会儿才搞明白"关键级"意味着什么。翻了不少资料，大概就是Astra已经能做到两件事：
一是自己找到那些从来没人发现过的漏洞；二是你只要给它一个目标，比如"入侵那个系统"，它就能自己侦察、找漏洞、写代码、发起攻击。整个过程你不需要懂任何技术，像个甩手掌柜。
更让人后背发凉的是，这并非孤立事件。
今年7月，OpenAI两个模型在测试中突破隔离环境、访问互联网，并攻击了开源AI平台Hugging Face；
一周后，Anthropic承认其模型在测试期间攻击过三家公司；Meta本周也承认旗下某模型突破了测试限制。
好像AI们在商量好了一样，一个接一个地往外跑。AI正在集体“越狱”。
