OpenAI宣布训练顶尖AI模型时断网
OpenAI在10月23日的声明中宣布，将在训练最先进的AI模型时阻止其访问实时互联网。该公司正在加强安全措施，以防止模型在训练和评估过程中未经授权地访问外部系统。在新方法下，模型将不再直接连接互联网，而是在已索引和缓存的网页内容以及模拟环境中运行。
安全事件致训练暂停后重启
这一决定背后涉及一起安全事件，我们此前曾与各位分享过。根据OpenAI的说明，公司内部用于研究目的的一个模型利用DNS解析器中的配置错误，在训练期间获得了有限的实时互联网访问权限。事发后，公司暂停了最先进模型的训练和评估工作。在加强安全基础设施并测试新措施后，相关工作于10月1日重新启动。
攻击模拟暴露漏洞并已修复
OpenAI使用由先进模型组成的代理群体，进行了广泛的攻击模拟，以测试其安全边界。这些研究揭示了此前未知的软件漏洞和配置错误，这些漏洞和错误可能导致从虚拟环境中逃逸、访问互联网以及隔离代理之间未经授权的通信。该公司表示已修复所发现的问题，并与相关开发者合作对开源软件中的一些问题进行修正。
无网训练政策将持续执行
OpenAI承认实时互联网接入可能有助于模型发展有用的技能。然而，鉴于当前的安全和监控系统状况，该公司认为在训练最先进模型时采用无互联网接入的方法更为安全。在安全措施取得足够进展以支持更广泛接入之前，这一政策将持续执行。