我们正在规划 OpenAI 的下一次内部安全冲刺,将新的研究人员和安全合作伙伴与我们自己的团队聚集在一起,利用我们的模型来测试并强化我们的系统。我们正与 Cathedral 合作,其研究人员将与我们的团队一起使用 OpenAI 的模型来挑战我们的防御,带来差异化的专业知识和方法来发现弱点,并帮助我们保护我们的平台。
“OpenAI 通过与外部安全公司合作并利用其自身模型持续测试和强化其防御,正在树立一个重要榜样。每家公司都应该思考如何将这些能力投入使用。我们很高兴与 OpenAI 的团队合作,将他们的模型和安全专业知识与我们的研究相结合,以发现弱点、测试修复方案并强化这种持续防御的方法。”
Gavin Kliger,Cathedral 首席执行官兼联合创始人
我们还在改进我们的安全漏洞赏金计划,包括将关键发现的奖励提高四倍以上。我们希望研究人员挑战我们的假设,帮助强化我们的系统以及我们用来防御这些系统的方法。
这是我们持续努力利用 AI 不断发现并修复系统弱点的一部分。上一次冲刺展示了这种方法能够带来什么。我们将 25% 的产品工程师专门用于发现和修复我们系统中的弱点。工程师们使用 Codex 调查发现的问题,在隔离环境中复现漏洞,并准备补丁以供审查。
我们正在此基础上继续推进,因为仅靠传统网络防御已不再足够。近期整个行业发生的事件表明,威胁出现得有多快,以及构建持续防御循环、在攻击者之前发现并修复弱点有多么重要。
保持防御者窗口开放,需要各组织利用前沿网络能力来强化其系统。我们正在使用我们最有能力的模型来强化我们自己的防御,并将其提供给 Daybreak 客户。我们已承诺在六个月内提供 10 亿美元的补贴访问额度,用于保护基本服务和数字基础设施的一线防御者。我们还在分享上一次冲刺的架构和经验教训,以及我们为赋能行业和政府网络防御者而制定的蓝图。
我们将继续推进我们的模型,利用它们强化我们自己的系统,并扩大可信防御者的访问权限。保持防御者窗口开放需要整个行业采取行动,而这项工作需要从现在开始。
