初创公司 Charge Robotics 的首席技术官兼联合创始人 Max Justicz 使用 OpenAI 的模型发现了一个严重漏洞，该漏洞一旦被利用，可能让黑客控制运行 Ubuntu 的服务器。Ubuntu 是一款广泛使用的基于 Linux 的开源操作系统。
Justicz 出于业余爱好对网络安全感兴趣，此前曾在同一代码库中发现过一个漏洞。他告诉 TechCrunch，他是通过 AI 公司面向网络安全防御者、提供强大前沿模型访问权限的项目 Daybreak Blue，使用 7 月发布的 GPT 5.6 Sol 发现这个问题的。
“我 literally 只是把 ChatGPT 对准同一份代码，然后说‘我之前发现过这个 bug，它几年前已被修复，请找出同样严重或更严重的 bug’，结果它两小时后就带着这个结果回来了，”Justicz 说。“它极其复杂，人类很难发现，但它确实有效！”
他将该问题报告给了 Debian Project，后者维护相关软件并发布了修复该漏洞的补丁。目前尚无已知的利用证据。尽管如此，他如此轻易地发现该漏洞，表明在连新手黑客都能借助 AI 模型利用的潜在漏洞方面，我们看到的可能只是冰山一角。
“我只能想象，如果有更多时间并能访问限制更少的模型，人们能做出什么。未来几个月里，我们应该会看到一些极其疯狂的 bug 被发现并利用，”Justicz 在讨论其发现的社交媒体帖子中写道。“这对这里的大多数人来说可能显而易见，但目前把某人尚未审计过的代码或二进制文件直接交给强大的 AI 模型，存在巨大的 alpha。”
OpenAI 似乎已经注意到了。今天，这家 AI 巨头宣布，一款专注于网络安全的新模型 ChatGPT Cyber 将向网络安全项目 Daybreak Red 中最高层级的用户开放，该项目为攻击性网络安全研究人员提供漏洞搜寻和开发工具。昨天，OpenAI 表示，同一模型已被用于扫描 Linux 内核漏洞并准备补丁，发现了 948 个潜在问题。OpenAI 还在网页浏览器 Firefox 中发现了 81 个“新型”漏洞。
“我们的目标是大幅扩展 Daybreak，将先进的安全研究带给各种规模的组织、独立研究人员和开源维护者，”这家前沿实验室在一份声明中表示。
OpenAI 坚持认为，在 AI 模型变得更擅长黑客攻击、更容易获取之前，保护数字基础设施的人员采取行动的时间窗口很窄。然而，对网络防御者来说，这感觉像是前沿实验室释放了大量新工作，超出了他们的资源。Justicz 说，他个人花费了约 5,000 美元的订阅费和 token 费用，才发现了几个漏洞利用。
除了 Daybreak 的模型访问权限外，OpenAI 还宣布了一项 10 亿美元的计划，以支持该项目中从事电网或供水系统等关键基础设施工作的网络安全专业人员。
Daybreak 项目本身也受到批评。Justicz 指出，这家前沿实验室似乎最近“削弱”了 Daybreak Blue，使其在发现漏洞方面变得不那么有用。一方面，限制潜在恶意行为者的访问可能是好事——Justicz 说他只是上传了一张驾照照片就加入了该项目。另一方面，网络安全专业人士表示，如果他们不能使用前沿技术，而恶意行为者却可以部署带有解除护栏的开放权重模型，他们就等于被绑住了一只手。
尽管如此，OpenAI 表示只有“数千名”网络安全专业人员参与 Daybreak 项目，而潜在黑客的数量则要多得多。
目前尚不清楚前沿实验室是否为此问题投入了足够的资源。OpenAI 技术团队研究员 Eric Wallace 表示，“我们现在正将大量前沿算力用于发现和修补开源代码库中的漏洞，完全是无偿的。”
但这次 Linux 漏洞搜寻花费了 120 万美元，远低于该公司为寻找流体动力学一个著名问题的潜在解决方案而投入的约 600 万美元 token 费用。
如果修补世界所依赖的数字基础设施的时间窗口很窄，那么可能需要更大的紧迫感。