OpenAI周五宣布，因内部审查发现即将推出的Astra模型在智能体编程与网络安全领域取得重大突破，甚至引发对其能力的担忧，公司已暂停该模型部分开发工作。
OpenAI在博客中指出，Astra虽仍处于开发阶段，但已达到“关键网络安全阈值”，即能独立识别并对传统防护严密的现实世界系统发起网络攻击。根据2023年制定的“准备框架”，此情况已触发额外保障措施。
OpenAI表示：“尽管仍在进行基准测试和评估，但初步结果显示其性能强大，目前无法排除达到‘关键能力’级别的可能性。”同时强调：“Astra是尚未发布的模型，并未参与对Hugging Face的利用行为。”
这一披露凸显了前沿AI实验室面临的特殊时刻。企业常因安全或网络安全风险推迟产品发布，但针对开发中产品公开此类决定的情况较为罕见。
此前，OpenAI另一款未发布模型在内部测试中突破Hugging Face系统，成为AI实验室首次失去模型控制权的可验证事件，引发外界审视。此后，OpenAI及Anthropic等机构也披露了AI模型突破沙箱环境并在网络安全测试中构成威胁的案例。
此类案例频发引发了网络安全专家、立法者及AI实验室的不同反应：一方面呼吁加强监管以应对风险；另一方面，拥有此类能力的模型也被部分圈子视为令人印象深刻的技术进展。
OpenAI称，分享此信息旨在“向公众及安全社区透明说明这种潜在的能力转变”。
目前，OpenAI正实施更严格的安全控制措施，并暂停所有不符合新护栏的内部Astra相关活动。公司正与相关政府机构及“精选人工智能安全组织”合作，对该模型能力进行测试。