Charge Robotics 初创公司的首席技术官兼联合创始人 Max Justicz 使用 OpenAI 模型发现了一个严重漏洞，该漏洞一旦被利用，就可能让黑客控制运行 Ubuntu（一种广泛使用的基于 Linux 的开源操作系统）的服务器。
Justicz对网络安全有着业余爱好者的兴趣，此前他曾在同一代码库中发现过一个漏洞。他告诉TechCrunch，他是通过GPT 5.6 Sol（于7月发布）以及AI制造商的Daybreak Blue项目发现这一问题的。Daybreak Blue是一个让网络安全防御者能够访问强大前沿模型的项目。
Justicz说：“我 literally 只是把ChatGPT对准了同一组代码，并说‘我之前发现了一个几年前已被修复的bug，请找出同样严重或更严重的bug’，结果它在两小时内返回了这个结果。”“它极其复杂，人类很难发现，但它确实有效！”
他将该问题报告给了Debian Project，该项目负责维护相关软件并发布了补丁以修复该漏洞。目前尚无已知的利用证据。然而，他轻易就发现了这一问题，这表明在潜在漏洞利用方面，我们可能只看到了冰山一角——即使是新手黑客也能借助AI模型来利用这些漏洞。
“我只能想象如果有更多时间和对较少被阉割模型的访问权限，人们能做什么。在接下来的几个月里，我们预计会发现并利用一些极其疯狂的漏洞。”“这对这里的大多数人来说可能显而易见，但目前存在巨大的‘阿尔法’机会，即针对某人尚未审计的代码或二进制文件，直接瞄准一个强大的 AI 模型。”
OpenAI 似乎已经注意到了这一点。今天，这家 AI 巨头宣布，一款专注于网络安全的新模型 ChatGPT Cyber 将提供给网络安全项目 Daybreak Red 中最高级别的用户，该项目允许进攻性网络安全研究人员使用漏洞挖掘和开发工具。昨天，OpenAI 表示，同一模型已被用于扫描并为 Linux 内核中的漏洞准备补丁，发现了 948 个潜在问题。OpenAI 还在 Firefox 网页浏览器中发现了 81 个“新颖”漏洞。
这家前沿实验室在一份声明中表示：“我们的目标是大幅扩展Daybreak，将高级安全研究带给各种规模的组织、独立研究人员和开源维护者。”
OpenAI一直强调，为保护数字基础设施的人们采取行动的时间窗口很窄，因为AI模型在黑客攻击方面会变得越来越好，且更容易获取。然而，对于网络防御者来说，前沿实验室似乎释放了大量新的工作负担，超出了他们的资源承受能力。Justicz表示，他个人花费了约5,000美元用于订阅和购买token，以发现多个漏洞。
除了提供 Daybreak 的模型访问权限外，OpenAI 还宣布了一项价值 10 亿美元的倡议，以支持项目中从事关键基础设施（如电网或供水系统）工作的网络安全专业人员。
Daybreak 项目也面临一些批评。Justicz 指出，前沿实验室最近似乎“削弱”了 Daybreak Blue 的功能，使其在发现漏洞方面变得不那么有用。一方面，限制潜在恶意行为者的访问可能是好事；另一方面，网络安全专业人士表示，如果他们不能使用前沿技术，而恶意行为者却能部署带有已消除护栏的开放权重模型，那么他们的手脚就会被束缚。
尽管如此，OpenAI称只有“数千名”网络安全专业人员参与了Daybreak项目，而潜在的黑客数量则要多得多。
目前尚不清楚前沿实验室是否投入了足够的资源来解决这一问题。OpenAI技术团队成员Eric Wallace表示：“我们现在正将大量前沿计算资源用于发现和修补开源代码库中的漏洞，完全免费提供。”
但Linux漏洞赏金活动耗资120万美元，远低于该公司为解决一个著名的流体力学难题所投入的大约600万美元的token支出。
如果修补全球依赖的数字基础设施的时间窗口很窄，那么可能需要更多的紧迫感。