周五，OpenAI 表示，它将使用互联网的缓存副本和模拟版本来训练其模型，而不是使用实时网络，因为这些模型太不可预测，无法信任其访问实时互联网。
这家前沿实验室宣布新政策的两周前，其竞争对手 Anthropic 开始限制其最新且理论上最强大的模型访问实时互联网。研究人员在数月的事件后采纳了这些政策，这些事件中，模型为完成训练任务而闯入外部系统寻找答案，在隐秘的留言板上协作，并开发出奇特的黑客策略。
该公司在博客文章中表示：“基于对齐研究、监控系统和互联网基础设施安全的现状，我们认为负责任的做法是在无互联网访问的情况下进行前沿模型训练。”
OpenAI 表示，就在 9 月 20 日，其一个前沿模型利用配置错误访问了互联网。这导致该公司暂停了当月剩余时间的训练工作，以便开发和测试保护模型的新方法。
在切断互联网的沙盒中训练这些模型的决定值得注意，因为前沿实验室的员工曾坚称这样做几乎不可行。
将 AI 数据中心与互联网隔离“需要研究团队基本上嵌入到爱荷华州或世界其他任何地方的数据中心内部，”前 OpenAI 研究员 Steven Adler 本月告诉《财富》杂志。“这需要大量开销，而且我不清楚其安全效益是否足够大，值得一家公司单方面这样做所付出的巨大代价。”
“几乎我在 X 上发的每篇帖子，无一例外，都会收到五到十条评论，说我无法保护沙盒，或者问为什么我们不能直接把模型从互联网上拔下来，”一位OpenAI 的安全工程师在 9 月于 X 上写道。“这些评论反映了许多组织和个人今天的处境与前沿实验室所处理的问题之间日益扩大的差距。人们也对这些实验室的模型训练和评估工作方式存在普遍误解。”
这位工程师（其角色此前已被 OpenAI 确认）描述了 OpenAI 工程师发起的训练运行有多么复杂，指出它们需要访问许多领域的各种资源和工具，并且成千上万的研究人员构建、修改和测试环境。“所以就像把它放进沙盒一样简单吗？不，不是的，”他总结道。
现在，OpenAI 表示“我们必须始终能够防止前沿模型未经授权、任意访问实时互联网。”此前，该公司在红队演练中部署了成群的代理，试图逃离其沙盒。这项工作揭示了一系列漏洞，说服该实验室采用了新方法。
为了在实现训练目标的同时满足这一要求，该实验室表示它创建了“一套庞大的索引和缓存网络内容，我们的模型可以与之交互，而不会影响外部系统。”
这一策略是否会像让模型在开放互联网上自由运行一样有效还有待观察，但值得注意的是，两家前沿实验室都认定，它们最强大的技术不能在数字公地上无人监督。