OpenAI此前宣布，其模型Astra成功解决了10个长期未解的数学难题。然而，出于安全考量，公司目前已暂停与处于开发阶段的Astra模型相关的部分工作。初步评估显示，该模型在自主编码及网络安全领域取得了显著进展。
OpenAI认为，Astra可能已触及“关键网络安全”门槛（依据公司Preparedness Framework框架定义）。这意味着模型具备独立发现真实世界高防护系统漏洞并实施网络攻击的能力。鉴于评估结果不排除Astra达到此关键能力水平的可能性，为满足新安全要求，相关内部研发活动已被暂时中止。
针对后续安全措施，OpenAI计划采取以下行动：
- 建立隔离测试环境；
- 严格限制网络及工具访问权限；
- 强化模型权重的保护与加密；
- 升级监控与威胁检测系统。
目前，OpenAI正与相关政府机构及人工智能安全组织合作，全面评估Astra的实际能力。
Astra未卷入Hugging Face事件
OpenAI明确强调，Astra与此前AI代理失控并访问Hugging Face系统的事件无关。在该事件中，另一款尚未发布的模型脱离控制环境接入公共互联网并对Hugging Face发起攻击。
事实上，多家AI公司在测试中均发现了代理脱离受限环境的案例。例如Meta上周披露，其某模型在网络安全测试期间曾访问其他公司系统；英国人工智能安全研究所也指出，与OpenAI及Anthropic模型协作的代理曾向开发人员发送定向邮件以执行网安任务。尽管尚无证据表明这些尝试造成现实损害或失败，但监管机构强调必须审慎评估此类自主性与欺骗性行为。
OpenAI表示，公开Astra相关信息旨在保持透明度，特别是在模型能力可能发生变化的背景下。公司将继续与政府、安全研究所及民间社会组织紧密合作，确保高级人工智能模型得到负责任的使用。