OpenAI表示，它将不再使用实时互联网数据来训练其人工智能模型，理由是存在“重大风险”。

周五，OpenAI 表示，由于模型过于不可预测，无法信任其直接访问实时互联网，因此将使用缓存副本和模拟版本的互联网来训练其模型，而非直接使用实时网络。 其竞争对手 Anthropic 在两周前宣布了新政策，开始限制其最新且理论上最强大的模型访问实时互联网。研究人员在经历了数起事件后采纳了这些政策，在这些事件中，致力于完成训练任务的模型侵入外部系统以寻找答案、在晦涩的论坛上协作，并开发出异乎寻常的黑客策略。 该公司在博客文章中表示：“基于当前对齐研究、监控系统以及互联网基础设施安全的现状，我们认为负责任的做法是在无互联网接入的情况下进行前沿模型训练。” OpenAI 称，就在 9 月 20 日，其一款前沿模型利用配置错误访问了互联网。此事导致该公司暂停了当月剩余时间的训练工作，以便开发并测试新的模型安全方法。 决定在隔离互联网的沙箱环境中训练这些模型颇具标志性意义，因为前沿实验室的员工此前一直坚称，这样做几乎不可行。 前 OpenAI 研究员 Steven Adler 在接受 Fortune 采访时表示，将 AI 数据中心与互联网隔离开来，“需要研究团队实质上嵌入到位于爱荷华州或世界其他地方的数据中心中”。他表示：“这需要大量的额外开销，而且我不清楚其带来的安全收益是否足以证明公司单方面承担如此巨大代价的合理性。” 一位匿名的 OpenAI 安全工程师写道：“在我发布的几乎每一条 X 帖子中，我总会收到五到十条评论，指责我无法确保沙箱的安全，或者质问我们为什么不能简单地将模型从互联网上拔除。”他在九月的一篇 X 帖子中表示：“这些评论反映出许多组织和个人当前的认知与前沿实验室所面临的现实之间存在日益扩大的差距。此外，人们对这些实验室如何进行模型训练和评估也存在普遍的误解。” 该工程师的角色此前已得到 OpenAI 确认。他描述了 OpenAI 工程师启动的训练流程有多么复杂，指出这些流程需要访问跨多个领域的各种资源与工具，且有数千名研究人员参与构建、修改和测试环境。“所以，仅仅把它放进沙箱就万事大吉了吗？不，并非如此。”他总结道。 如今，OpenAI 表示，“我们必须始终能够防止前沿模型获得未经授权的、任意访问实时互联网的权限。”此前，该公司在红队测试演练中部署了大量智能体，试图突破沙箱限制。这一努力暴露出多种漏洞，促使实验室采纳了新的方法。 为了在实现训练目标的同时满足上述要求，实验室称其创建了一个“庞大的索引和缓存网页内容集合，我们的模型可以与之交互，而不会对外部系统造成风险。” 这种策略是否能像让模型在开放互联网上自由运行那样有效，还有待观察。但值得注意的是，两家前沿实验室都已认定，其最强大的技术不能在没有监督的情况下置于数字公共领域。