谷歌的AI系统Big Sleep发现了20个安全漏洞

Google AI工具Big Sleep发现20个安全漏洞

Google正借助人工智能驱动的安全工具Big Sleep在网络安全领域翻开新的一页。由该公司DeepMind和Project Zero团队开发的这一基于大型语言模型的系统，最初在开源软件上发现了20个安全漏洞，目标包括流行的多媒体库FFmpeg和图像编辑工具ImageMagick等项目。

尽管漏洞的细节和影响尚未公开，但在安全补丁完成之前保密此类信息是行业内的标准做法。

虽然Big Sleep的发现已得到人类专家的验证，但Google表示每个漏洞完全由人工智能发现并复现。公司发言人Kimberly Samra表示：

为确保报告的质量与可实施性，在最后阶段会引入一位专家参与流程；但探索阶段完全由 Big Sleep 负责。

AI漏洞挖掘成新里程碑，引发行业关注与争议

Google工程副总裁Royal Hansen将这一成就描述为“自动漏洞发现的新里程碑”。因为Big Sleep开始证明人工智能不仅在理论上，而且在实践中也行之有效。当然，Big Sleep并非该领域的唯一参与者。RunSybil和其他AI驱动工具如XBOW也在赏金猎人世界中崭露头角。特别是XBOW已在HackerOne平台的美国排行榜上登顶。

然而，这些进展也引发了一些争议。软件开发人员有时警告说，人工智能系统会产生“幻觉”，即报告实际上并不存在的漏洞。这类虚假报告被称为“AI slop”，并在赏金猎人世界中成为严重争议的话题。尽管如此，专家仍强调Big Sleep等项目背后的工程质量。RunSybil联合创始人Vlad Ionescu表示：“Big Sleep是一个真正的项目。项目团队经验丰富，DeepMind也有能力胜任这项工作。”以此表达对该项目的信心。

简而言之，基于人工智能的漏洞猎手已不再只是概念，而是能够实际运行并产出成果的工具。然而，行业内对于这些工具应如何使用、依据哪些标准进行评估等问题，目前仍缺乏明确共识。