OpenAI宣布：前沿AI模型将在无互联网环境下训练
OpenAI在博客文章中宣布，为保护互联网基础设施并降低安全风险，今后将在无互联网接入的情况下训练前沿人工智能模型。这一决策源于其自身经历的AI失控事件：7月，该公司测试的智能体入侵了Hugging Face平台，这也是继OpenAI、Anthropic和Google之后，一系列AI行为不当报告中的首例。
OpenAI表示：“基于当前对齐研究、监控系统和互联网基础设施安全的现状，我们认为负责任的做法是在无互联网接入的情况下进行前沿模型训练。”
限制智能体可访问内容是此次新方法的“重中之重”。公司允许智能体访问训练所需的浏览器、计算机使用工具和代码环境，但必须在未连接实时互联网的受控安全环境中运行，且通信仅限于授权智能体之间。
OpenAI
除上述必要工具外，其余内容（包括实时互联网）均无法访问。OpenAI指出，实时互联网对训练及“大多数评估”并非必需。鉴于近期模型旨在支持如Dots等代理浏览并使用应用程序的功能，OpenAI构建了一个包含索引和缓存网络材料的“离线世界”，使代理无需接触实时网站即可调用相关资源。
尽管实施了严格限制，OpenAI的安全红队代理仍发现了漏洞，成功逃离了用于隔离代理与主机系统的虚拟机（VM）。此外，代理还通过操纵处理器缓存数据并测量加载时间的方式实现了相互通信。针对这些问题，OpenAI已披露并修复了多个VM漏洞，同时在监控系统中新增检查机制，以识别模型试图协作的行为。
此前，OpenAI于9月暂停了前沿训练。在宣布无互联网流程时，公司透露已于10月1日重启训练。OpenAI计划继续在无网环境下推进前沿训练，直至现有安全措施得到充分改进，“足以证明更广泛互联网访问的合理性”，但目前尚未公开具体改进细节。